次年，北周再次大举攻齐，周武帝认为前一年未能灭齐，原因主要在于“直为拊背，未扼其喉”。这次应直攻高欢发迹之地晋州，争得此地，北齐必派重兵援救，我军可严军以待，击之必胜，然后乘破竹之势，挥军东进，定可“穷其巢穴”，灭亡高齐。十月，周武帝再次亲征，以宇文盛、宇文亮、杨坚为右三军，宇文俭、窦泰、丘崇为左三军，宇文宪、宇文纯为前军，亲率中军，开入齐境，并驻军于晋州汾曲（今山西临汾市南）。然后分判派遣宇文宪率精骑二万驻守雀鼠谷，宇文纯率步骑二万驻守千里径，达奚震率步骑一万守统军川，韩明率步骑五千守齐子岭，尹升率步骑五千守鼓钟镇，辛韶率步骑一万驻守汾水关。又遣王谊监诸军进攻平阳城（今山西临汾市），但是北齐海昌王尉相贵据城坚守。周武帝宇文邕赶赴平阳城下督战，城中情况紧急，北齐诸将纷纷投降，北周军队占领了平阳，生擒尉相贵及其部下八千余人。宇文宪率领的另一路军也攻克洪洞、永安二城。本计划乘胜前进，但由于北齐军焚桥守险，军不得进，只好屯守永安。
齐后主此时正带着冯淑妃与右丞相高阿那肱在天池（今山西宁武县西）围猎。晋州告急的信使，从清晨至中午，连来三批。高阿那肱却拦住信使，不准报告，说：“皇帝正围猎高兴，何必急着报告。”到了黄昏，又一信使赶到，报告“平阳已陷”，高阿那肱乃转报齐后主。齐后主闻讯准备立即返回晋阳，但冯淑妃此时正在兴头上，请再围猎一次，齐后主便又留下继续围猎。猎毕，齐后主才携带冯淑妃回晋阳，调兵遣将，分军向千里径、汾水关发动反攻。齐后主自率主力开上鸡栖原。驻守汾水关的宇文盛派人告急，宇文宪马上率兵来援，大破这一路齐军。齐后主率大军到达平阳城下，周武帝见齐军声势颇盛，周军疲惫，只留下一些将士镇守平阳，自率主力军西退。
齐军包围了平阳，昼夜攻城。城已残破不堪但仍不能攻克。北周守将梁士彦慨慨激昂，身先士卒，激励了士卒。守城军民士气大振，无不是以一当百。齐军再次挖地道攻城，城墙塌陷十余步，齐军将士呼喊着要冲进去，被齐后主下令阻止。齐后主派人召冯淑妃来观看，冯淑妃正在化妆，等她化妆完毕，周军已用木棍塞住缺口，齐军再次进攻，已经冲不进去。
周武帝本已引兵西归，闻平阳危急，又率军赶至平阳，会集诸军，向齐军发起猛烈攻击。齐后主与冯淑妃在阵后并骑观战，东边稍退，齐后主便与冯淑妃率先逃走，齐军见皇帝先跑，随之全线溃败。齐后主逃回晋阳不久，周军又尾追而来。齐后主任便命安德王高延宗为相国、并州刺史，总领山西兵，自己却不顾群臣劝阻，在夜里砍杀守城门的士兵，率少数侍卫逃出晋阳城。他想投奔突厥，侍官多所不愿，许多人半路悄悄溜走。领军梅胜郎也百般谏阻，他这才带着剩下的数十人逃到邺城。穆提婆见大势已去，不得己投降了周军。
周军包围了晋阳，高延宗在北齐留守将帅的坚决要求下，即皇帝位。周军四面攻城，终于攻破东门，周武帝率数千人冲进去，却在城内展开基战，周武帝几乎被困在城内，好不容易才突围出城。直到二次组织攻城，才占领了晋阳，俘虏了高延宗。谁知齐后主在邺城，听望气的人说，当有革易，遂禅位于太子高恒。次年正月，高恒即位，是为幼主。改元承光，尊齐后主高纬为太上皇，朝政大权却仍掌握在高阿那肱手里。高阿那肱对主战将领颇为猜忌，于是齐军士气聚而复散，更加离心离德。周军进兵邺城，齐军出击，大败而归，高纬只得带上高恒东逃。周军攻入城内，俘获百官。高纬逃至济州，留下高阿那肱守济州关，又与穆后、冯淑妃、高恒、韩凤等数十人逃至青州、准备投奔江南的陈朝。不料高阿那肱表面上虽劝高纬先居住青州，暗地里却勾结周军速至青州，将高纬、高恒等人全部俘虏。北齐灭亡。北齐自显祖文宣帝高洋至幼主高恒，凡6帝，28年（550—557年）。
北方自东西魏分裂以来，已近半个世纪，至此终于统一。周武帝准备乘势“平突厥，定江南”，统一全国，可是不久他便病死在征讨突厥的途中，统一全国的事业未能由他完成。但是他为统一所作的一切准备并没有白费，为后来隋文帝杨坚统一全国奠定了坚实的基础。
刘裕篡晋
晋元兴元年（402年），门阀士族谯郡桓玄代晋建楚，自立为帝。次年三月，出身寒门士族的北府旧将刘裕、何无忌占据京口（今江苏镇江），刘毅、孟昶等制据广陵（今江苏扬州）起兵，打着恢复晋室的旗号，讨伐桓玄。刘毅等帅兵到京口与刘裕会师。然后，合兵进攻建康。讨伐军迅速击败桓玄的抵抗，进而占领建康。此后又派刘毅等帅军西上追击桓玄，陆续镇压了桓玄势力的反抗，迎回被废的晋安帝重登皇位，重建东晋。刘裕起兵成功，任使持节、都督扬、徐、兖等八州诸军事、领军将军、徐州刺史、从而掌握了军权，尤其是掌握了北府兵这支最精锐的军队。义熙四年（408年），刘裕又升任扬州刺史、录尚书事的要职，他实际掌握了东晋政军大权。
南燕慕容超认为南方软弱可欺，屡次派骑兵侵入东晋边境骚扰和劫掠人口。刘裕于义熙五年（409年）出兵，北伐南燕，出兵两月后就已包围了南燕首都广固（今山东省益都北），南燕惊慌失措，向后秦求救，秦却未派兵。晋义熙六年（410年）三月，刘裕大军攻陷广固，生擒慕容超，灭掉南燕，收复了青兖广大地区。刘裕声威大震，时人无可匹敌。在刘裕北伐之时，盘踞广州的卢循、徐道覆率部北上，图谋争夺政权。他们在豫章（今江西省南昌）大败东晋江州刺史何无忌，声威大振，兵锋直指建康。刘裕闻讯，急忙班师回朝，亲率数十人匆忙赶回建康。当时地位和实力仅次于刘裕的豫州刺史刘毅为壮大声势，不听刘裕指挥，率军二万从姑熟溯江而上，以阻击卢循军队。六月，双方战于桑落洲（今江西省九江东北），刘毅大败，狼狈逃走，至使声望一落千丈，这时建康城内，人心惶惶，很多人提议迁都江北，遭到刘裕坚决反对，宣布内外戒严。同时，征发居民修筑防御工事，此时大批援军从而陆续赶到。卢循闻知刘裕还都，就很想退兵，经徐道覆力争，犹豫多日才继续进兵。刘裕也得到了周密部署的时间，坚壁不战。卢循因师老兵疲、给养因难，被迫退回寻阳。试图西取荆州，徐道覆部却遭到失败。卢循、徐道覆又率部东下，与刘裕军激战，又遭惨败，遂率部南逃，不久全被晋军歼灭。
卢循的起义被平定后，刘裕与刘毅的矛盾已日趋激化。晋义熙八年（412年），江州刺史刘毅移镇荆州，力图割据，于是取江州兵和豫州西府文武万余西上。由于刘毅文温尔雅，颇得徒有虚名的名士如谢混等人的欢心，而刘裕气质不文，在结交高级士族方面处刘毅的下风，心中十分不满。这时，刘毅又要求允许起用从弟刘藩做他的副手，以党徒郗僧施担任南蛮校尉的要职。刘裕感到分裂在即，决意先发制人，先收杀刘藩、、谢混等人，他命王镇恶为前锋，自己亲统大兵征讨刘毅，不久就攻克了江陵，刘毅逃走，后不得不在牛牧佛寺（今湖北江陵）自杀。刘裕随之又潜回建康，诱杀了心怀狐疑，欲谋叛乱的豫州刺史诸葛长民兄弟。刘裕在寒门士族中确立起独一无二的统帅地位。军权的高度集中，使寒门士族得以有效地利用武力谋取更大的利益，为王权的恢复奠定了基础。
在此之前，谯纵乘东晋衰乱，占据四川称王。后谯纵常与醒玄从兄桓廉连兵侵扰东晋，威胁荆楚。义熙九年（413年）一月，刘裕命大将朱龄石率众二万攻蜀谯纵，力克平模（今属四川省），谯纵部将相继奔溃，谯纵弃成都出逃，尚书令马耽在成都投降，益州就这样被东晋收复。
刘裕讨伐刘毅时曾任命宗室司马休之为荆州刺史。几年后，刘裕嫌忌司马休之在江陵深得人心，以休之子文思犯法而休之不肯严惩反而心存怨气为借口，下令讨伐休之。东晋雍州刺史鲁宗之及其子鲁轨担心不为刘裕所容，和司马休之连兵抵抗刘裕。休之等兵败后投后秦。义熙十二年（416年），后秦派遣鲁宗之子鲁轨率兵进犯襄阳，骚扰荆楚。这时，后秦皇帝姚兴突然病故，其子姚泓继位，后秦王室内部不和，发生内讧。是时，北魏拓拔氏跨有并冀，大夏赫连氏虎据朔方，都牵制了后秦相当一部分兵力。刘裕在义熙十二年（416年）九月，亲统大军，北伐后秦。北伐大军兵分四路，水陆并进，浩浩荡荡。檀道济、王镇恶所属二部进展十分迅速，所至望风归降，十一月就占领了洛阳。前锋随之进抵潼关。刘裕主力部队也击败了北魏的骚扰，也顺利抵达洛阳。然后又兵分两路，继续向长安进军。义熙十三年（417年）九月，刘裕军攻入平朔门（即长安北门），姚泓出降，后秦灭亡。十二月，刘裕留守建康的心腹、尚书左仆射刘穆之病死，使本来想留在长安经略西北的刘裕担心后方发生变化，于是决定返回江南，而留其次子义真镇守长安。刘裕此次北伐，收复了大片国土，并牢固地占有了潼关以东，黄河以南的广大地区，威望更加增高。