话说永嘉七年（313年）二月，晋怀帝遇害。四月，占据长安的秦王司马邺称帝，即晋愍帝。
晋愍帝任命司马睿为左丞相、大都督（一年后又进位丞相），负责都督陕东诸军事，与右丞相、南阳王司马保“分陕而治”，试图拉拢他们共同抗击汉赵政权的攻势。但司马睿以“方平定江东，未暇北伐”为由，拒不执行愍帝要他收复洛阳的诏令。
当居住在京口（今江苏镇江）的祖逖上书要求出师北伐时，司马睿（晋宣帝司马懿曾孙，琅邪恭王司马觐之子）任命他为奋威将军、豫州刺史，只给了少量人员、物资，允许他自行募兵出击。
司马睿无暇北顾并非全是托词。在南方，不仅荆州的动乱一直未平，就连位居腹心的扬州也出现了麻烦。这时，不满于司马睿压制的周玘联合东莱大族王恢起兵，打算消灭北来士族，由南士取而代之。后因密谋暴露，周玘遂杀王恢灭口。司马睿不断调动，以羞辱周玘，使其忧愤而死。临死前要求其子对“诸伧子”复仇。
周玘死后，其子周勰在建兴二年（314年）利用吴人对司马睿的不满情绪，再度起兵，招募土豪，声言进讨执政的王导、刁协，声势浩大。司马睿采纳王导的建议，派在朝廷任黄门郎的周勰族侄周莚前往处理事变，最终以温和手段安抚了吴人。司马睿考虑到义兴周氏在三吴地区的影响力，所以没有深究此事，照旧安抚周勰，并任命不同意起兵的周勰叔父周札为吴兴太守，擢升周莚为太子右卫率。
就在此时，远在荆州的刺史陶侃击败杜弢所领导的流民起义军，并收复了湘州。陶侃的成功，引起了王敦的嫉妒。王敦此时都督江扬荆湘交广六州诸军事，担任江州刺史，并自行选置官吏，日益骄横。他乘陶侃在返回荆州的治所江陵之前辞行之机，将陶侃扣留，改为广州刺史，另派其从弟王廙接任荆州刺史。此举引发了荆州将吏的抗议，这使得王敦一度想要杀害陶侃，只是担忧与陶侃有姻亲关系的豫章太守周访干涉，故终未动手。
建兴四年（316年）十一月，在汉赵军的重围之下，长安内外断绝，兵疲粮竭，司马睿又始终拒绝派兵赴援，山穷水尽的愍帝被迫出降。当这一消息被传到江南时，司马睿整军宿营，作出一副发动北伐以解救愍帝的模样。数天之后，这场政治表演便不了了之。为了给自己解脱塞责，司马睿竟以“漕运稽期”的罪名冤杀丞相府督运令史淳于伯。然而淳于伯之死，引发了朝野部分人士的不满，一时“百姓喧哗，士女纵观，咸曰其冤”，连司马睿的心腹刘隗也出面为淳于伯鸣不平，要求惩办与此事有关人员。最后，幕后主谋王导被迫出面承担责任，请求将其免职。司马睿也没有处罚任何人员，只是承认自己的错杀行为而已。
建兴五年（317年）二月，平东将军（一作弘农太守）宋哲带着晋愍帝临降前所写的诏书逃至建邺。诏书同意司马睿代他“统摄万机”，但要求他在称帝后收复旧都，报仇雪耻，还隐含了对其坐视长安沦陷的不满。于是，司马睿在得到许可后，在众臣的拥戴下，接受了晋王的名号。自此，他成为晋王朝的唯一代表。
六月，刘琨等一百八十名北方将领联名上书司马睿，进行劝进活动。司马睿因愍帝未死、中原未复而不敢接受。这时，祖逖在收复大片北方领土之后，又在谯县（今安徽毫州）打败石勒军。司马睿借势传檄天下，声称要派遣其子司马裒统军增援祖逖。然而队伍尚未出发，司马裒即被召回建邺。
这年年底，晋愍帝被汉赵君主刘聪杀死。年仅十八岁。自此，司马睿称帝的阻碍消失，开始筹划即位前的事宜。太兴元年三月丙辰日（318年4月26日），司马睿终于登上了皇帝宝座，东晋正式建立。时年四十二岁。
在登基典礼中，司马睿再三请王导同坐御床受贺，王导再三辞让不敢当，他才作罢。这一非比寻常的举动，一方面反映了东晋一朝主弱臣强的实际情况。即司马氏的江南政权，在一定程度上是依靠王氏兄弟建立的，而王导、王敦，一内一外，实际把持了东晋政权。时人称这种现象为“王与马，共天下”。另一方面，随着晋元帝司马睿地位的巩固和建邺政权统治范围的扩大，他越来越不甘于受王氏兄弟的摆布。晋元帝司马睿要王导同坐御床，表面上示以尊崇，实际上则在暗示他应该有所收敛。