公元307年九月，司马睿偕王导渡江至建邺。晋室政治中心，自此逐渐南移江东。永嘉南渡后，王导始终剧机枢之地，王敦则总征讨于上游，王氏家族近属居内外之任，布列显要者人数甚多。以王导、王敦为代表所构成的王氏家族势力对司马氏的江山构成了严重的威胁，这使“王与马共天下”的局面在江左维持了二十余年，直到庾氏家族兴起，抑制王氏并凌驾于王氏之上，这种局面才没有再次出现。
没过几年，晋愍帝无奈出降，西晋亡。公元317，司马睿承制改元，即晋王位，但此时因势力单薄，也并未真正称帝，改元建武，东晋建立，史称东晋。他广辟掾属以为辅佐，有“百六掾”之称。司马睿即位后，因为在皇族中声望不够，势力单薄，所以得不到南北士族的支持，皇位不稳。但是，他重用了王导。王导运用策略，使南方士族支持司马睿，使北方南迁的士族也决意拥护司马睿，稳定了东晋政权，维持了偏安局面。司马睿十分感激王导，任他为宰相，执掌朝政。时人谓之“王与马，共天下”。
“成也萧何败萧何”，王导是能臣，辅佐司马睿走上了帝王之路，但是到了最后王敦和王导的家族势力，一度跃至与司马家族相抗衡的状态，大权旁落引起司马睿极大的不满，为了让晋朝的江山不至于毁坏到自己的手里，司马睿在临死前设下了一计，导致王导和王敦反目。
公元322年，一向对朝野拥有野心的王敦以以诛刘隗为名，在武昌起兵，这一战直接杀到了建康，威胁到了统治中心，王敦的行为无疑是为司马睿敲醒了一个警钟，司马睿十分忧惧。而王导为保全王氏家族利益，也暗助王敦。
一时间，风云变幻，面对王氏家族的势力，皇帝说话也要软下三分，司马睿“脱戎衣，著朝服”对王敦进行安抚，说尽好话，而在王敦眼里自己“封武昌郡公，邑万户”，打心眼看不起司马睿，其后，王敦还想以不孝而废掉勇武的太子司马绍，后因百官皆不从而作罢。四月，王敦还师武昌，遥控朝政。此后，王敦更加猖狂，以至于司马睿和他的朝廷成了摆设。
王敦掌控东晋大权吗，面对司马睿如同傀儡般的皇帝，他根本不放在眼里。在权臣和皇帝之间，王敦始终举棋不定。王氏兄弟是什么时候反目的我们不得而知，推测应该是从元帝司马睿临死前，任命王导为辅政大臣时起。
这个遗诏非常奇怪，因为太子司马绍已经24岁了，又不是五六岁的小孩需要辅政。而且如果真要辅政，王敦是二把手，凭什么被晾到一边。这是司马睿精心设置的反间计，也是他死前的最后一击，就是离间王导和王敦的关系。
这一招果然奏效，王敦气在心头，对王导开始疑神疑鬼。不久把王导升为司徒，剥夺了他扬州刺史的职务，而由自己兼任扬州牧。两兄弟看似合实则分。其后，两人的关系也进一步恶化，司马睿难得聪明，死前的一个遗诏，居然成功离间了王敦和王导，使得司马氏江山得以延续。