这是一场在中国历史上阵势强大、惊心动魄的战争，这场由隋文帝杨坚发动的消灭南陈、一统天下的征战，在当时封建体制的军事条件下，以它周密的计划、安排、筹措和部署，为世人所惊叹。一场由隋文帝杨坚发动的统一天下的战争终于爆发了。
开皇九年（公元589年）元旦，远征正式开始。一切都按照精心制定的计划进行着。由于发动者是有备而战，因而战争的主动权始终掌握在其手中。长江上游、中游、下游三个地区的战争几乎同时发起。
上游的行军元帅是杨素。弘农华阴人杨素，也是个文武兼备的将才。北周武帝平齐时，杨素充当先驱，与宇文宪攻破北齐晋州。齐后主率大军反攻，杨素与骁将10余人与齐军大战于鸡栖原。灭北齐后，杨素又随王轨大破陈将吴明彻，后又随韦孝宽攻取陈朝淮南之地。杨坚建隋后，杨素多次进取陈之计。杨坚便拜他为信州（治所在今四川奉节）总管。
公元588年10月，隋朝首都长安的太庙中举行了隆重的出师大礼，大礼过后，隋朝的8路大军从长江的上游、中游、下游3个地方同时向南朝发出攻击。
杨素的任务是率水军自奉节沿长江而下，出三峡与出兵江陵的刘仁恩大军会合。
长江中游也有两路大军，行军元帅是杨坚的第三子秦王杨俊。他的任务是从襄阳（今湖北襄樊）出发，沿沔水从武汉进入长江，然后继续东下，与出兵蕲春的王世积大军会合。
长江下游有3路大军，行军元帅是杨坚的二儿子杨广。他的任务是从六合（今江苏六合）南下，指挥、协调左右两翼共攻陈朝首都建康（今江苏南京）。左翼是贺若弼率领的大军，从广陵（今江苏扬州西北）直攻京口（今江苏镇江）。右翼军由韩擒虎率领，从和州（今安徽和县）直攻姑孰（今安徽当涂）。京口、姑孰两地对建康至为重要，前者被认为是建康的北大门，后者则是建康的西南门户。如果两处被攻破，建康则门户大开，落入隋军的股掌之中。
除上述7路大军外，杨坚还命青州总管燕荣从海路南下，以占领吴郡（今江苏苏州），包抄建康。
杨坚这样部署，与崔仲方的建议有相似之处，显然是吸取了这个建议的许多合理有效的地方。但是将整个军事力量交给3个行军元帅指挥却是杨坚的独到之处。整个的进攻战线，“东接沧海，西拒巴蜀，旌旗舟楫，横亘数千里”。这样长的战线，由一个中心指挥显然会有失灵、失控的危险。杨坚在长江的上游、中游、下游设置3个行军元帅，形成3个指挥中心。这3个中心，既互相独立，又互相配合，从而使整个灭陈战役得到有效的指挥。
在长江上游，杨素率领水军自信州永安出发，浩浩荡荡穿过三峡。陈将戚昕率领水军以百余艘战船守在狼尾滩（在今宜都境内）。狼尾滩地势险要，又有重兵把守，怎样突破陈军的防线？杨素召集众将，对他们说：“这是关键一仗，胜负在此一举。如果我们白天进攻，陈军就会看到我们的虚实。况且狼尾滩水流迅急，地势险要，白天进攻于我不利。不如趁夜袭之。”众人都同意夜袭的方案。当天夜里，杨素亲率黄龙战舰，偃旗息鼓，无声无息地顺江而下。同时，派遣开府仪同三司王长袭率步兵从南岸袭击戚昕的别营；又命荆州刺史、大将军刘仁恩率甲骑从北岸会合。天刚刚亮时，3路军突然出现在陈军面前。戚昕来不及组织抵抗，大败而逃，其众多被俘虏。狼尾滩大胜，杨素军与刘仁恩军汇合，又缴获敌人大批战船，使得隋军声势更壮。他们继续沿江东下，舟舻被江，旌甲曜日。杨素坐在大船之上，容貌雄伟，威风凛凛，陈人望见，十分畏惧，都说：“这是江神到来了。”
长江中游一路，秦王杨俊率水陆军10余万，自襄阳沿沔水南下，行至汉口，受到陈军的阻挡。陈将周罗眠、荀法尚等人，以劲兵数万屯驻于长江鹦鹉洲（今武汉市西南）。隋将崔弘度请命向陈军进攻，但杨俊害怕造成伤亡，没有答应，便和陈军相持于汉口。
在长江下游，左、中、右3路大军也向陈朝的首都建康发动了攻击。
灭陈战役还未发动时，吴州总管贺若弼就开始作过江的准备。为了过江顺利，贺若弼采用了麻痹敌军的战术，他叫人将老弱之马卖掉，用钱买了很多船，但把船都藏起来，只在湾内泊放五六十艘破船。陈朝的间谍将这种假象带回去，陈军误以为贺若弼军无船。在军队换防时，贺若弼总是将声势搞得很大，将军队集中在广陵，大张旗鼓，多设营幕。陈军误以为隋军要渡江，急忙发兵防备，当他们剑拔弩张严阵以待时，却发现是隋军换防，虚惊一场。久而久之，陈军对隋军大集人马换防的形式习惯了，也麻痹了。为了进一步麻痹陈军，贺若弼还常让士兵沿江射猎，弄得人喧马叫，陈军对此也渐习以为常，毫无反映。开皇九年（公元589年）正月初一日，大江上迷雾四溢，乘着茫茫浓雾，贺若弼发兵渡江。一则有大雾掩护，二则陈军已无警惕之心，所以隋军过江，陈军竟未发觉。正月初六日，贺若弼军一举攻下建康北面门户京口，活捉了陈朝南徐州刺史黄恪。贺若弼在发动强大的军事攻势的同时，还发动了强大的宣传攻势。他要求部队纪律严明，秋毫不犯。在攻占京口时，俘虏陈军约6000多人，贺若弼发给他们每人一份口粮，并给他们一份宣传材料，然后将他们释放，让他们宣谕各方。贺若弼的这些做法，使隋军在江南地区以仁义之师的面貌出现，收到了很好的效果。
与贺若弼渡江同时，庐州总管韩擒虎也从和州横江浦渡江。对岸守卫采石矶的陈军很快被韩擒虎军打败，采石矶落入隋军之手，与此同时，下游的行军元帅杨广也率大军屯于六合镇的桃叶山。
在隋军未发动全面进攻以前，陈后主君臣还沉浸在自我陶醉中。陈后主对臣下说：“我建康都城有霸王之气，以前北齐军3次进攻，北周军两次进攻，都没有成功，隋军能有什么建树！”都官尚书孔范赶紧就着陈后主的话说：“长江天堑，自古以来就是隔离南北的界线，他隋军难道还能飞过来不成！那些守边的将领欲邀功请赏，所以把形势说得十分紧急。隋军要真能过江倒好了，我正嫌位卑官低，正好借此机会大败隋军，建立大功，陛下好提拔我作太尉。”一番话说得陈后主脸上喜笑颜开，心里踏踏实实。
正当陈朝君臣自恃“天堑”和“王气”之时，京口的败兵传来了京口陷落的消息，采石矶的守将徐子建也派人告知形势的突变，陈后主慌了，急忙召集大臣公卿商议对策。面对隋军的攻势，陈后主只得任用一些有军事才干的人去抵挡，因为即使他再昏庸，也知道大话不能挡住隋军的战舰和军马。他任命骠骑将军萧摩诃、护军将军樊毅、中领军鲁广达为都督，统兵保卫都城，并把南豫州刺史樊猛从姑孰调回京城，派散骑常侍皋文奏镇守姑孰。陈后主这一招是相当愚蠢的。樊猛是陈朝著名猛将，有谋略，武艺高强，胆气过人。侯景之乱时，樊猛在青溪与侯景军短兵相接，厮杀一天，杀伤侯景军士众多。他所镇守的姑孰，是建康西南的门户，又面临隋名将韩擒虎的威胁，姑孰一失，建康难保。在这种情况下，把樊猛调回，表面上看是加强了都城的力量，实际上是一种缩着头挨打的战略。果然，韩擒虎很快攻下姑孰，樊猛的妻子儿女尽被俘虏，皋文奏大败而归。
隋军攻下京口、姑孰后，贺若弼军从北道，韩擒虎军从南道同时向建康进发。正月初七日，贺若弼军进至建康东北的钟山，韩擒虎军也占据了建康西南20里的新林。
面对建康城的危急形势，陈朝大将任忠对陈后主说：“兵法认为：客以速战为贵，主以持重为贵。如今城内兵众粮足，应该固守，即使隋军兵临城下，也不出去与他交战。同时分兵隔断江路，让敌军彼此不能联络。然后给我精兵1万，战船300艘，渡江直攻六合。六合的隋军一定以为渡江的军队已被俘获，自然丧气。淮南的土著居民，都对我非常熟悉，我若到那里，他们必然会响应我。我再扬言直取徐州，断彼归路，隋军自然会撤走。等到春水一下，长江水涨，上游的周罗睺沿江支援，则建康万无一失。”对任忠的计策，陈后主听不进去，他总幻想着一战将隋军击退。任忠苦苦请求不要冒险决战，陈后主不听，便派鲁广达、任忠、樊毅、孔范、萧摩诃等人率军由南至北一字排开，“南北亘二十里，首尾进退不相知”。
贺若弼在山上，远远望见陈军阵势，知道大战在即，便与所率领的7个总管、甲士8000，冲下山去与敌决战。陈军虽倾巢而出，但诸将心思各异。萧摩诃因妻子与陈后主通奸，无心再战；任忠更把贸然决战看作是冒险；孔范只是个会说大话取悦于陈后主的小人。只有鲁广达，率领士卒与隋军力战，杀退隋军4次进攻，杀死贺若弼手下军士200多人。但鲁广达的骁勇挽救不了全局的崩溃，在萧摩诃被擒、任忠溃败、孔范逃跑后，鲁广达也独木难支，眼看败局已定，便弃兵解甲，面对宫殿方向拜了两拜，痛哭道：“我身不能救国，负罪深且重矣。”这时，隋军冲上来将其擒住。
任忠败回台城，向陈后主报告了决战失败的消息，并对他说：“陛下应该休战了，臣已无力再战了。”陈后主拿出两捆金条，让他再招募士兵出战。任忠说：“再战无用。现在陛下只有准备舟楫，到上游周罗睺处。如果陛下愿往，臣当以死奉卫。”陈后主大喜，连忙让任忠去准备舟船，又令人将宫中贵重物品收拾好，只等任忠回来。谁知任忠出宫以后，听说韩擒虎已带隋军自新林向建康进发，便带了亲信投降了韩擒虎。任忠领着韩擒虎军沿秦淮河来到朱雀航（即秦淮河上的一座大浮桥，故址在今南京市镇淮桥稍东）。守桥的陈将蔡征听说韩擒虎将至，早已弃众逃跑。隋军跨过朱雀航，直入朱雀门，守城门的陈军欲战，任忠站出来对他们说：“我都投降了，你们还打什么！”陈军一哄而散，韩擒虎军首先进入了建康城。
隋军攻入建康城，四处寻不到陈后主，最后在景阳殿庭院内，发现一口枯井，听听里面，有窸窸窣窣之声，似乎有人躲在里面，隋军士兵大喊：“井底下的人快出来！”
井下没有任何反应。
“再不出来。就要往下扔石头了！”士兵又喊道。
“不要扔，不要扔，我是陈朝皇帝。”
隋军士兵听说是陈朝皇帝，便用绳子系住一个筐送下去，准备把陈后主拉出来，在拉绳子时，他们发现这个皇帝有超乎常人的重量，好几个人用了十足的力气，才把他拉上来。等到把他拉出井口，大家觉得既好气，又好笑。原来拉上来的不是一个人，而是陈后主、张贵妃、孔贵嫔3个人。这个荒淫皇帝，江山都丢了，还没忘掉他的美人。
建康城被攻破，陈后主被俘虏，标志着长江下游的进攻取得了最后胜利，而下游的胜利，又给上游的战斗很大影响。
在长江中游，陈朝荆州刺史陈慧纪见周罗眠与隋秦王杨俊在汉口对峙，便派遣南康内史吕忠肃屯驻岐亭，打算阻止上游杨素率领的隋军东下。吕忠肃在岐亭长江北岸的岩石上钉住几条铁索，横在江上，以阻遏隋军战船。杨素、刘仁恩大军到后，立刻派兵进攻，吕忠肃据险力战，前后40余战，隋军伤亡惨重。最后，杨素军以沉重的代价将陈军据点攻破，吕忠肃弃栅退守延洲。杨素截断江中的横索，一直进到延洲。在延洲，隋军与陈军展开水战。杨素的战舰，用拍竿将敌船击碎，俘获陈军2000多人，吕忠肃只身逃走。陈荆州刺史听到吕忠肃延洲大败的消息，率将士3万人，楼船千余艘，沿江东下，欲入建康。当他听说隋秦王杨俊正屯兵汉口。又不敢继续东下，陷入进退维谷的境地。正在这时，下游隋军攻克了建康城，行军元帅杨广命陈后主写信令上游诸将放下武器，又派陈将樊毅将陈后主的信送给周罗眠，派陈慧纪的儿子陈正业送信给陈慧纪。二人见到信后，全都放下武器投降，长江中上游全部平定。杨素率水军下至汉口与杨俊军会合。
在蕲州的王世积，听说陈朝已亡，便将此消息告谕江南诸郡。陈江州司马黄偲听到这个消息后弃城逃跑，许多郡太守都到王世积处请降。
至此，陈朝的长江防线被隋军全部突破，灭陈战役进入消灭陈朝境内残余力量的阶段。
在长江中游，杨素与杨俊合军后，派大将庞晖南征至湘州（今湖南长沙）。州内将士，人无斗志，准备投降。陈宣帝的第十六子陈叔慎此时正任湘州刺史，他召集文武，进行最后的宴会。席间，陈叔慎对众人哀叹道：“我们的君臣之义，到今天就算完结了吧！”一句话说得在场的人落下泪来。这悲凉的气氛，激怒了一个人，这就是湘州助防陈正理。他站起来，大声说道：“俗话说，主辱臣死，你们难道不是陈国的臣子吗？如今天下有难，正是我等效命之秋，纵使不能成功，也应尽臣子之节。今日之机，不可犹豫，有二心者斩！”于是推陈叔慎为主，杀牲设誓，共抗隋军。陈叔慎派人给庞晖送去诈降信，而暗中伏甲兵待之。庞晖信以为真，按约定的日期进城受降，被捉住杀害。陈叔慎以此为号召，数日之中，得5000人。衡阳（治今湖南株洲南）太守樊通、武州（治今湖南常德）刺史邬居业起兵相助。但陈叔慎靠愤激起事，靠诈降取胜，并不说明其强大。不久，隋将薛胄、刘仁恩大兵压境。薛胄大败陈正理，攻破湘州州城，活捉陈叔慎。刘仁恩亦击破邬居业，湘州地区亦平。
隋朝灭陈统一南北后，杨坚所面临的首要问题，是如何处置陈朝的君臣。灭陈以后，陈后主与他的王公百官全部被送往长安。这长长的俘虏队伍，延绵数里。长安城里一下子找不出足够的地方容纳这些人，杨坚命暂时腾出长安士民的私宅以收容之。不久，杨坚举行了隆重的献俘仪式。陈后主及陈朝的王侯将相，手持图籍，由铁骑押送至太庙。杨坚坐在广阳门楼之上，命陈叔宝及太子及诸王28人和百官200多人跪于门下广场上，然后派人宣诏，责备他们君臣不能相辅，以至灭亡。陈后主及群臣皆愧惧伏地，屏息不能对答。
谴责虽然是严厉的，但对他们的处理却是宽容的。
对陈后主，杨坚给其丰厚的赏赐，多次召见他，令其班同三品。每次有陈后主参加的宴会，杨坚怕引起他伤心，特命人勿奏吴地音乐。陈后主在长安，日日饮酒，天天大醉，很少有醒的时候。当杨坚知道陈后主日饮酒一石时，先是大惊，准备对其加以节制，转念一想又说：“任他去吧，不让他如此，他怎样度日呢！”陈后主也感受到了杨坚对他的优待，有一次，竟以自己常参加朝廷活动而无秩位为由，向杨坚张口要个官位。
对待陈氏宗族，杨坚虽然对他们不放心，恐怕他们闹事，但也没把他们杀掉，而是将他们分置在边州，给其田业使他们能够生活，并按季节赐给衣物。
杨坚对待陈氏宗族与对待北周宇文氏宗族是完全不一样的，对前者是给予优待，全其性命；对后者是尽行诛戮，斩草除根。同是灭掉一个政权，为什么会有这么大的区别呢？
首先，杨坚代周，是靠时机、偶然事件、权术、个人势力等因素的综合作用。在诸多因素中，时机和偶然事件有很大的时限性，过了一定时期，其作用即消失了。只有政治及军事力量的优势才是克敌制胜的可靠保证。杨坚杀尽宇文氏，是对自己能否能在政治上、军事上彻底制服宇文氏缺乏信心的表现。而杨坚灭陈，是隋朝政治、军事力量压倒陈朝的结果。此时，杨坚对彻底制服陈朝余孽充满信心，不杀陈氏宗族，是这种信心的表现。
其次，就杨坚实际感受到的对自己帝位的威胁来说，来自宇文氏方面的要比陈氏大得多。在杨坚辅政时，宇文氏中的一些人就策划着如何把他置于死地。杨坚所得的天下，毕竟曾经是宇文氏的天下，他所赖以称帝的关中及黄河流域，宇文氏也扎下较深的根基。杨坚手下的大将王世积，在隋朝建立后就曾对高颎说：“吾辈俱周之臣子，社稷沦灭，其若之何？”这说明即使在杨坚集团内，也有人具有自己曾经是周朝臣子的观念。所以杨坚要把宇文氏杀绝，以绝人们对周之望。而陈氏则大不一样。陈朝宗室，多昏庸之辈。如陈后主之弟陈叔文，在隋军过江时，就到杨俊军中投降。隋朝灭陈之后，杨坚谴责陈朝君臣时，陈叔文在旁有欣然自得之色，仿佛他不是陈朝臣子。后来，他又上书给杨坚说：“当初我在巴州（治今湖南岳阳）时，就投降了隋朝，望陛下知我忠诚，不要把我和他们同等对待。”像这样甘心亡国的贵族，又远离其长期生活的江南，真正成了无本之木，无源之水，他们对隋文帝的政权能有什么威胁呢？
安置陈朝宗室的同时，杨坚对陈朝的降臣也进行处置。他的基本原则是诛奸任忠，像施文庆、沈客卿、阳慧朗、徐析、暨慧景这类有名的奸佞，早在建康城一攻下就被杨广处死。陈朝降臣到长安后，杨坚又认为孔范奸佞谄惑，王瑳刻薄贪鄙、忌才害能，王仪候意承颜、倾巧侧媚，沈瓘险惨苛酷、发言邪谄，因此将他们定为四罪人，流放边远地区。陈朝的文学之士江总被任为上开府仪同三司，姚察被任为秘书丞。武将周罗眠被任为上仪同三司，萧摩诃、任忠皆为开府仪同三司。文臣袁宪因有雅操，被授昌州刺史，袁元友因多次对陈后主直言相谏，被拜为主爵侍郎。后来，杨坚又对臣下说：“我真后悔平陈之初没把任忠杀掉。这个人受陈朝荣禄，担当重任，而关键时刻不能以身报国，却说什么无处用力，这与古代忠臣差得甚远！”其实，杨坚说这话的真正用意不是要杀掉任忠，而是要在朝臣之内提倡对君主的忠诚，他是借处置陈朝降臣之题，作提倡忠君道德的文章。
当杨坚把陈朝君臣全部安置停当以后，便发下一道诏书，开头是这样几句话：
往以吴、越之野，群黎涂炭，干戈方用，积习未宁。今率土大同，含生遂性，太平之法，方可流行。凡我臣僚，澡身浴德，开通耳目，宜从兹始。
杨坚这个诏书，无疑是在向全国宣告：南北统一已经完成，从此以后，要与民更始，在全国行太平之法。
就在杨坚颁发诏书后的第二年，陈朝故境发生了大规模的叛乱。叛乱所及，包括婺州（治今浙江金华）、越州（治今浙江绍兴）、苏州（治今江苏吴县）、蒋山（今江苏南京东北的钟山）、饶州（治今江西波阳）、温州（治今浙江温州）、泉州（治今福建福州）、杭州（治今浙江杭州）、交州（治今广东广州）等地。叛乱的直接起因，一个是苏威作《五教》，让全国人民不论长幼，全都习诵；另一个是江南盛传隋朝要把当地人迁往关中，于是远近惊骇。上述两个原因不过是表面现象，最根本的原因还是杨坚统一后的“太平之法”。前引杨坚诏书，接下来就是这样一段话：
丧乱已来，缅将十载，君无君德，臣失臣道，父有不慈，子有不孝，兄弟之情或薄，夫妇之义或违，长幼失序，尊卑错乱。朕为帝王，志存爱养，时有臻道，不敢宁息。内外职位，遐迩黎人，家家自修，人人克念，使不轨不法，荡然俱尽。兵可立威，不可不戢，刑可助化，不可专行。禁卫九重之余，镇守四方之外，戎旅军器，皆宜停罢。
这就是杨坚所行“太平之法”的主要内容。这些内容主要包括两个方面：一个是用君臣、父子、兄弟、夫妇、长幼、尊卑这套儒家伦理道德观念规范人们的行为；另一个是去私人之刑，除私人之兵，削弱地方豪强势力，加强中央集权。这就触动了江南豪强的势力。
南方自从侯景之乱后，士族受到很大的打击，地方上的豪强势力崛起。史书上记载：“梁末之灾诊，群凶竞起，郡邑岩穴之长，村屯邬壁之豪，资剽掠以致强，恣陵侮而为大。”如熊昙朗，在侯景之乱时，“稍聚少年，据丰城县为栅，桀黠劫盗多附之。梁元帝以为巴山太守。荆州陷，昙朗兵力稍强，劫掠邻县，缚卖居民，山谷之中，最为巨患”。又如周迪，侯景之乱时，招募乡人随从周续。周续手下将领“皆郡中豪族，稍骄横，续（即周续）颇禁之，渠帅等并怨望，乃相率杀续，推迪（即周迪）为主”。周迪率领部众，占地为王，将土地分给当地农民，“督其耕作，民下肆业，各有赢储，政教严明，征敛必至”，俨然一个有独立军事力量、独立经济的小王国。这些豪强力量，在陈朝时虽然有的受到打击，但绝大部分没有被触动。杨坚诏书中要求戢私兵、去私刑，就是针对南方地方豪强的。这就激起了豪强势力的疯狂抵抗。他们有的自称天子，署置百官；有的自称大都督，多者有众数万，少者也有几千。他们攻陷州县，抓到州县长官，或将其剖腹抽肠，或将其切成碎块吃掉，还忿恨地说：“还能让我诵习《五教》吗？”苏威作《五教》，让江南人诵习，这是杨坚所行“太平之法”的一部分。而地方豪强怨恨《五教》，不过是他们用以反对杨坚“太平之法”的借口。制造把江南人迁往关中的谣言，是他们借以煽动更多的人反对杨坚“太平之法”的手段。
对于江南豪族的反抗，杨坚也早已料到，从某种意义上说，平定地方豪强势力是统一南北的必要条件。杨坚没有退缩，而是果断地派出大军，以杨素为行军总管讨伐江南叛乱。杨素率大军破京口，击晋陵，在浙江大破高智慧叛军，又在温州平定沈孝彻，一直打到福建，将高智慧擒住，斩于泉州，迅速平定了江南叛乱。
平定江南叛乱，是南北统一后的必要磨合。通过平定江南叛乱，磨去了江南妨碍中央集权政府行使统一政令的毛刺，使统一的国家机器能更有效地运转。
江南发生的叛乱，是对隋朝统一南北的考验。杨坚派兵迅速地平定了这次叛乱，证明了隋朝统一南北的力量不可抗拒，南北统一的发展趋势不可逆转。