西晋末年的腐败政治，引发了社会大动乱，中国历史进入了分裂割据的南北朝时期。在南方，晋琅邪王司马睿于公元317年在建康（今江苏南京）称帝，建立东晋，占据了汉水、淮河以南大部分地区。在北方，各少数民族政权纷争迭起。由氐族人建立的前秦国先后灭掉前燕、代、前梁等割据国，统一了黄河流域。以后又于公元373年攻占了东晋的梁（今陕西汉中）、益（今四川成都）二州，将势力扩展到长江和汉水上游。前秦皇帝符坚因此踌躇满志，欲图以“疾风之扫秋叶”之势，一举荡平偏安江南的东晋，统一南北。
公元383年8月，符坚亲率步兵60万、骑兵27万、羽林郎（禁卫军）3万，共90万大军从长安南下，同时，符坚又命梓潼太守裴元略率水师7万从巴蜀顺流东下，向建康进军。近百万行军队伍“前后千里，旗鼓相望。东西万里，水陆齐进。”符坚骄狂地宣称：“以我百万大军，即使将马鞭扔到长江中，也足以让长江断流。”
东晋王朝在强敌压境，面临生死存亡的危急关头，以丞相谢安为首的主战派决意奋起抵御。经谢安举荐，晋帝任命谢安之弟谢石为征讨大都督，谢安之侄谢玄为先锋，率领经过7年训练，有较强战斗力的“北府兵”8万沿淮河西上，迎击前秦军主力。派胡彬率领水军5000增援战略要地寿阳（今安徽寿县）。又任名恒冲为江州刺史，率10万晋军控制长江中游，阻止前秦巴蜀军顺江东下。
10月18日，符坚之弟符融率前秦前锋部队攻占了寿阳，俘虏晋军守将徐元喜。与此同时，前秦军慕容垂部攻占了郧城（今湖北郧县）。奉命率水军驰援寿阳的胡彬在半路上得知寿阳已被苻融攻破，便退守硖石（今安徽凤台西南），等待与谢石、谢玄的大军会合。苻融又率军攻打硖石。苻融部将梁成率兵5万进攻洛涧（在今安徽淮南东），截断淮河交通，阻断了胡彬的退路。胡彬困守硖石，粮草用尽，难以支撑，写信向谢石告急，但送信的晋兵被前秦兵捉住，此信落在苻融手里。苻融立刻向苻坚报告了晋军兵少、粮草缺乏的情况，建议迅速进兵，以防晋军逃遁。苻坚得报，把大军留在项城，亲率8000骑兵疾趋寿阳。
符坚一到寿阳，立即派原东晋襄阳守将朱序到晋军大营去劝降。
朱序到晋营后，不但没有劝降，反而向谢石提供了前秦军的情况。他说：“前秦军虽有百万之众，但还在进军中，如果兵力集中起来，晋军将难以抵御。现在情况不同，应趁前秦军没能全部抵达的时机，迅速发动进攻，只要能击败其前锋部队，挫其锐气，就能击破前秦百万大军。”谢石起初认为前秦军兵力强大，打算坚守不战，待敌疲惫再伺机反攻。听了朱序的话后，认为很有道理，便改变了作战方针，决定转守为攻，主动出击。
11月，谢玄派遣勇将刘牢之率精兵5000奔袭洛涧，揭开了淝水大战的序幕。前秦将梁成率部5万在洛涧边上列阵迎击。刘牢之分兵一部迂回到前秦军阵后，断其归路；自己率兵强渡洛水，猛攻秦阵。前秦军惊惶失措，勉强抵挡一阵，就土崩瓦解，主将梁成和其弟梁云战死，官兵争先恐后渡过淮河逃命，1.5万余人丧生。洛涧大捷，极大鼓舞了晋军的士气。谢石挥军水陆并进，直抵淝水（今淝河，在安徽寿县南）东岸，在八公山边扎下大营，与寿阳的前秦军隔岸对峙。苻坚站在寿阳城楼上，一眼望去，只见对岸晋军布阵整齐，将士精锐。连八公山上的草木，他也感到类似人形，误认为是晋兵，颇为惊慌，对苻融说：“这是劲敌！怎能说他们是弱敌呢？”
由于前秦军紧逼淝水西岸布阵，晋军无法渡河，只能隔岸对峙。谢玄就派使者去见苻融，用激将法欺骗他说：“将军率军深入晋地，却紧逼河岸布阵，这难道是想决战吗？如果你把阵地稍向后退，空出一块地方，让我军渡过淝水，双方一决胜负如何！”前秦军诸将都表示反对，但苻坚认为可以将计就计，让军队稍向后退，待晋军半渡过河时，再以骑兵冲杀，这样就可以取得胜利。苻融对苻坚的计划也表示赞同，于是就答应了谢玄的要求，指挥前秦军后撤。哪知前秦兵士气低落，一后撤就失去控制，阵势大乱。谢玄率领8000多骑兵，趁势抢渡淝水，向前秦军猛攻。朱序又在前秦军阵后大叫：“秦兵败了！秦兵败了！”前秦兵信以为真，于是转身竞相奔逃。苻融眼见大势不妙，急忙骑马前去阻止，以图稳住阵脚，不料战马被乱兵冲倒，被晋军追兵杀死。失去主将的前秦兵越发混乱，彻底崩溃。前锋的溃败，引起后续部队的惊恐，也随之溃逃，形成连锁反应，结果全军溃逃，向北败退。前秦军溃兵沿途不敢停留，听到风声鹤唳，都以为是晋军追来。晋军乘胜追击，一直到达寿阳附近的青冈。前秦兵人马相踏而死的，满山遍野，充塞大河。苻坚本人也中箭负伤，单枪匹马逃回洛阳。
晋军收复寿阳，谢石和谢玄派飞马往建康报捷。当时谢安正跟客人在家下棋。他看完了谢石送来的捷报，不露声色，随手把捷报放在旁边，照样下棋。客人知道是前方送来的战报，忍不住问谢安：“战况怎样？”谢安慢吞吞地说：“孩子们到底把秦人打败了。”客人听了，高兴得不想再下棋，想赶快把这个好消息告诉别人，就告别走了。谢安送走客人，回到内宅去，他的兴奋心情再也按捺不住，跨过门槛的时候，踉踉跄跄的，把脚上木屐的齿都碰断了。
淝水之战，前秦军被歼和逃散的共有70多万。只有鲜卑慕容垂部的3万人马尚完整无损。苻坚统一南北的希望彻底破灭，不仅如此，北方暂时统一的局面也随之解体，再次分裂成更多的地方民族政权，鲜卑族的慕容垂和羌族的姚苌等势力重新崛起，各自建立了新的国家，苻坚本人也在两年后被姚苌俘杀，前秦随之灭亡。此战的胜利者东晋王朝虽无力恢复全中国的统治权，但却有效地遏制了北方少数民族的南下侵扰，为江南地区社会经济的恢复和发展创造了条件。淝水之战也成为以少胜多的著名战例，载入军事史，对后世兵家的战争观念和决战思想产生着久远影响。