当初，刘渊起兵后，中原的形势越来越混乱。西晋琅玡王司马睿采用王导的谋略。请求去镇守建邺（今南京），等待时机重兴晋室。在王导、王敦等人的帮助下，他宽待建邺的地方势力，着力平叛，经营了将近十年，终于在江南站稳了脚跟。晋愍帝建兴四年（316年），刘曜占领了长安，西晋覆灭。司马睿随即自立为帝，仍以晋为国号，史称“东晋”。由此，中国历史进入了东晋和北方十六国相持的时期。
■琅玡避难，窥伺良机
司马睿是司马懿的曾孙，司马觐的儿子，字景文，出生在洛阳。司马觐死后，司马睿承袭了父亲的琅玡王爵，那年他才15岁。就在这一年，晋武帝司马炎辞世。即位的司马衷愚笨，不能执掌大权，因此宫廷内为争夺权力展开了激战。
时势险恶，司马睿虽是皇亲，却没有权势，只能为了保住性命尽量不参与政事。偌大的洛阳城，只有王导和他走得最近。王导，字茂弘，是北方贵族琅邪王氏的后人，也是名贯京都的王衍的族弟。王导颇具才识，很有抱负，想借司马睿这个皇室宗亲成就一番事业，因此多次劝说司马睿远离洛阳，返回自己的封地，暗地里扩展势力。可惜司马睿一直没找到好的时机。
晋惠帝永安元年（304年），诸王的争斗到达了白热化。成都王司马颖逼迫惠帝立他为皇位继任者，随后返回封地邺城，遥控朝政。司马颖残暴独断，遭到了一些权贵的憎恨。时任尚书令的东海王司马越借此时机以惠帝之名发布檄文，召集四方将士讨伐司马颖。29岁的司马睿借机投靠了司马越，参与了这场战斗，任左将军。
双方在荡阴（今河南汤阴）展开激战，最终司马越战败，逃往自己的封地。司马颖胁迫晋惠帝和跟随部队的司马睿等大臣返回了邺城，杀了战前劝自己投降的司马繇。司马睿担心此事会牵连到自己，就寻机逃离了邺城，到洛阳接了自己的家人往琅玡（位于今山东胶南）避难去了。晋怀帝永嘉元年（307年），掌握西晋政权的东海王司马越命令司马睿镇守下邳（今江苏睢宁西北）都督扬州、江南诸军事。后来，在王导的建议下，司马睿移镇建邺（今江苏南京）。
同年，刘渊自立为帝，创立了匈奴汉国，并于次年接连两次征讨洛阳。当时掌权的司马越调集各地人马支援京城，司马睿也奉命抗击汉军。
■兴复晋室，建立东晋
313年，被俘的晋怀帝司马炽死于刘聪之手，秦王司马邺在长安登基为帝，即晋愍帝。晋愍帝将年号改为建兴，命司马睿为左丞相、大都督，督察陕东军务；命秦州刺史南阳王司马保为右丞相、大都督，督察陕西军务。
此后，愍帝依“分陕而治，挟辅天子”之说，重新分封司马睿等人，想趁机笼络他们，以此来征调各路大军抵抗入侵的刘聪、石勒军，解除长安被围之困。可是司马睿却以“方平定江东，未暇北伐”为由，拒绝接受愍帝命他攻打洛阳的旨意。316年，刘曜发兵攻打长安。晋愍帝由于势力太弱，只得弃城归降了刘曜。至此，西晋覆灭。
■王与马，共天下
西晋末代皇帝，18岁的司马邺被俘虏到匈奴人建立的汉国都城，受尽奚落和侮辱；第二年惨遭杀害。消息传到建康（今江苏南京），当时镇守江南的晋王司马睿悲痛不已。第二年农历三月，司马睿称帝，东晋王朝建立。
登基大典上，北方南渡的山东士族王导，可谓出尽了风头。做了皇帝的司马睿嫌他站在陪列的百官中不够显眼，就硬是要拉他共坐御床，接受百官朝贺。王导推让再三，对皇帝说：“天子好比太阳啊！要是太阳下同万物，它又怎么能普照万物呢？”司马睿这才作罢。
虽然王导没有去坐皇帝的御床，但这件事却反映出他在这个新兴王朝中的特殊地位。当时的民谣说：“王与马，共天下。”“马”是司马睿的简称，“王”就指王导，意思是说，在东晋朝廷中，王导是坐了半个天下的。
那么，王导的这一地位又是怎样形成的呢？
原来司马睿在晋皇室中要算个远支，祖辈父辈又不曾建立过什么功业，所以地位并不显赫。晋怀帝永嘉元年（307年）他受命移镇江南，负责扬州一带的军事防御工作。初来乍到，南方的士族豪强都不把他放在眼里，并骂随他一同南下的北方人是粗鄙的“伧夫”，以至于到任后一个多月，当地官民中的头面人物，谁也不肯前来拜见他。
和司马睿同年、关系也很要好的王导，这时是他的主要助手，看到这种局面，心里十分着急。他明白司马睿要在江南站稳脚跟，没有当地士族出面支持是不行的；而要取得这种支持，最为紧迫的便是必须想方设法，尽快提高司马睿的地位和威望。经过一番精心策划，一场好戏开演了。
每年的农历三月初三，是江南人民的传统节日。这一天，不分男女老幼，都要到附近的河畔水滨去祭祀，祈求神灵降福免灾，保佑风调雨顺，有个好年成。江南人称之为“禊节”。
王导一看，机会来了。这年“禊节”，他让司马睿高坐大轿，由一支威武的仪仗队护送着，浩浩荡荡地开来看热闹了。自己则和一批同是从北方南下的士族，骑着马，恭恭敬敬地尾随而至。江南士族代表人物顾劳、纪瞻等，看到这种盛况，心里十分吃惊。他们从王导这帮北方士族恭谨的态度上，觉得司马睿原来还是受人尊敬的，于是也就对司马睿刮目相看，相约在路边拜见，纷纷表示归顺。
局面一打开，王导便进一步献计说：“古代贤明君主，没有一个不讲究礼待父老乡亲的，何况眼前还是大业初创，得人心实乃当务之急。如果能将顾荣这班南方士族笼络好，江南人民一定会争着为你效劳。”司马睿当即称是，于是让王导出面，回访顾荣等人，延聘他们出来做官。这样一来，司马睿在南方逐渐就有了威望，而王导在他心目中的地位，也就逐步形成了。
值得一提的是，当时随同司马睿南渡的北方士族很多，他们在晋朝疆士遭受匈奴汉国蹂躏的时候，其中的大多数只想苟且偷生，只有部分人希望收复中原。有些名士只会空谈，不会干事，并且一有空闲，总喜欢到江边的新亭聚会，借酒消愁，相对哭泣，抒发一下对故乡的怀念，情绪十分悲观。
西晋最后灭亡的消息传来，这些人又一次在新亭举行宴会。名士周面对滚滚东去的长江水，回想起从前经常在洛阳附近的黄河边宴饮的情形，不觉哀声叹息：“风景倒是一样好，可眼前是长江，再不是黄河了！”在座的名士们听了，一个个触动旧情，纷纷哭了起来。王导也参加了这次宴会，见此情景，心情十分沉重。他没有跟着流泪，而是一脸严肃的神情，说：“这正是大家应该齐心协力，辅助朝廷收复中原的时候啊，怎么能如此灰心丧气，像‘楚囚’一样哭泣呢！”
《左传·成公九年》（前582年）记载，晋景公视察军府，看到俘虏里有一个戴着楚地的帽子被捆绑着的人，景公问道：“这个戴着楚冠被囚禁着的人是谁啊？”左右的人答道：“这是郑国人送来的一个楚国俘虏。”这人名叫钟仪，晋景公后来与他交谈，发现他是一个不背本、不忘旧，忠君、无私的人，就把他释放出来，利用他作为使者，调整齐、楚两国的关系。后来人们常常把保持着较好的人格而又处在窘迫环境中的人称为“楚囚”。王导劝那些悲观失望的南渡士族不要仅仅做“楚囚”对泣，说明他要比其他人有见识；他希望大家鼓起勇气，致力于晋政权在江东的恢复，显然，这对于改变东晋统治集团的精神面貌，促进东晋的兴起，也起了重要作用。
随着北方士族不断南下，他们要重新置办产业，但南方比较富庶的地方早就被当地士族占有了，怎么办？王导采用了“侨寄法”，就是在南方士族势力较为薄弱的地方，设立侨州、侨郡、侨县。这些侨寄行政区的设立，就必然要设侨官，而侨官一设，北方士族便有了政治出路。同时，他们可以利用北方逃难来到江南的劳动力，重新创立产业。这些措施，缓解了南北士族间的矛盾，有利于双方的团结。司马睿要恢复晋政权，也因此而具备了政治基础。
晋怀帝永嘉五年（311年）冬天，北方士族桓彝到江南避乱，看到司马睿势力单薄，心里不踏实，对名士周发牢骚说：“中原战祸连年，我到这里来避乱，是想求得安全的，想不到这里的力量如此薄弱，前途在哪儿呢？”不久，王导接见了他，同他一起讨论江南形势。桓彝觉得王导很有办法，心里的一块石头才落了地。几年后，太原士族温峤受人派遣，来到江南。他找到王导，诉说着西晋覆灭的惨祸，不禁声泪俱下。王导也深表痛心，他对温峤谈了自己对晋室恢复的一些看法，温峤听了，立刻转忧为喜。可见王导在北方士族中是很有影响的，他们高兴地称他是春秋时代的齐相管仲。管仲能使齐桓公成就霸业，他们相信，王导也能帮助晋王司马睿复兴晋室。
说到这里，可以想见东晋王朝的建立是与王导的努力分不开的；由此也不难明白，登基大典的那一天司马睿为什么要拉他共坐御床了。
王导没去坐御床，就做了个一人之下、万人之上的丞相，深得司马睿的信任。