历史遗留下的家庭房子财产纠纷，从法律上应该怎么解决？紧急求助！

事情是这样的，A女士丈夫已经去世，但有3个儿女，，在约20年前自建了一套2层高房子并有房产证（房产证上面的名字是A女士的），底下一层是分给了二儿子一家居住，然后有底层一小半及第二层是小儿子一家人与A女士一同居住，A女士的大女儿没居住在此套房子。

后来家庭的冲突摩擦多了，二儿子由于对母亲A女士不满以及对小儿子的妒忌，开始经常发生冲突。吵架，甚至打架，逐渐大儿子就疏远了母亲A女士，不闻不问，期间A女士查出了有糖尿病，乳腺肿瘤等。

后来小儿子在另外的地方购买了房子，然后接母亲A女士一同居住，但A女士的糖尿病反复，而且在后期并发成中风等，病了约10多年，期间一直都是小儿子一家亲力亲为照顾，出钱治疗，生活照料，大女儿偶然也会来看望A女士及给与小部分的看望费用，但二儿子无任何的慰问。照顾。以及无支付任何费用。

约在2008年，A女士病故了，至此小儿子一共在A女士患病期间照顾，治疗，付出了约20年的人力物力（家庭照料，医疗费用等），A女士去世前立下遗嘱，要将生前居住的那套2层自建房子托付给小儿子，但是二儿子一直强行居住在底层，不肯离开。而就在前年，大女儿也不幸患病去世了。

故事就是这样了，我想知道，小儿子应该如何通过法律诉讼来争取属于自己的合法权益？(法院上诉？提出诉讼？）流程应该怎样，需要哪些资料？将2儿子这个不孝之人赶出去的几率大吗？