长沙王司马乂和东海王司马越任职朝廷。诸王有了行政权力，又有了数量可观的军队，如此一来，多位王掌握了封国的军政大权。
晋武帝大封司马宗室子弟为王，其目的便是想造就一个能够藩屏帝室的皇族势力，用以对抗士族中的野心家，因此赋予了宗室王很大的政治权力和军事权力，如裁撤州郡武备，并允许宗室王在自己的封国内有自置军队的权利，允许宗室王出镇和允许宗室王参政等。尤其是允许宗室王出镇和允许宗室王参政这一点弊端最严重，因为一旦参与政务的宗室王利用自身特殊的政治地位和政治特权与出镇的藩王相勾结，势必会破坏中央政府的正常运营机制和运行秩序，再加上有本王国自备军队作为的后防屏障，势必会引起整个局势的动荡。从这些地方来看，晋武帝在分封宗室王时，只是看到了宗室的力量，却没有重视宗室王的势力过于膨胀所造成的对中央政权的潜在威胁，给叛乱的发生埋下了隐患。
咸宁二年（276年）十月，司马炎改封羊祜为征南大将军，恢复其贬降前的一切职权，开府仪同三司，可以自行辟召僚佐。当初羊祜便认为，要想伐吴，必须凭借长江上游的有利地势。当时吴国有童谣：“阿童复阿童，衔刀浮渡江，不畏岸上兽，但畏水中龙。”羊祜听后便说：“这一定是说伐吴必是水军成功，只是要考虑哪个人应童谣中的名字。”正逢益州刺史王濬被征召任大司农。羊祜发现王濬的才能可当重任，而王濬的小字又是“阿童”，正应了童谣之言。而当时在西晋朝廷内部，王濬是个有争议的人物。羊祜极力肯定王濬的军事才能，于是上表挽留他，使王濬重新被授为监益州诸军事，加龙骧将军。
此后，羊祜密令王濬缮甲训卒，广为戎备。经过七年的练兵和各项物质准备，荆州边界的晋军实力远远超过了吴军，而两年前陆抗病死，吴国境内又因为孙皓的高压统治使各种矛盾日益激化。这表明晋灭吴的条件和时机已经成熟。
羊祜不失时机的上疏请求伐吴，奏疏说：
先帝顺应天意人心，西平巴蜀，南和孙吴，海内百姓得以休养生息，人心安乐。而吴背信弃约，使边境又生战事，国家气数虽是天定，而功业必靠人为，不灭东吴，则士卒百姓无安宁之日。完成统一大业，也是光大先帝功勋，实现无为而治的