东晋时期，北方少数民族建立的前秦政权渐渐强大起来，几乎占领了北部中国的全部地区。前秦的国王苻坚野心勃勃，企图统治全中国，就率领80万大军，大举向南进犯。
消息传来，东晋朝廷文武官员和百姓都着了慌。在宰相谢安的主持下，皇帝任命谢安的弟弟谢石为征虏将军兼任大都督，侄子谢玄为前锋都督，儿子谢琰为中朗将，带领8万军兵前往江北抗敌，同时又派将军胡彬率水军5000人到寿阳，配合作战。
由于前秦兵多，东晋兵少，双方实力相差悬殊，东晋的许多官员都非常害怕，只有坐镇都城的谢安从容镇定。
出发之前，谢玄去见谢安，请示作战计划。谢安像什么事也没发生似的，轻描淡写地回答说：“已经有了破敌的办法啦！”就不再说什么，而叫随从驾车，到山间别墅去游览，并悠闲地同别人下起棋来，整整玩了一天，到天黑才回家。
谢安认为，行军作战，必须因地因时制宜，让主帅有充分的自主权，不能远离战场盲目指挥。所以仅对谢石、谢玄等将领说了大体的安排。大家看到谢安这样从容自若，增添了勇气和信心，军队士气大增。
东晋军队开到前线后，谢玄先派刘牢之率精兵出击，在洛涧大破秦军，杀死秦军大将梁成。秦军在渡淮河逃跑时，又被杀死、淹死了许多人。这一仗挫败了秦军的锐气，晋军威势大振。
晋军各路军队乘胜前进，在淝水东岸驻扎下来，等待时机和秦军决战。谢玄派使者到秦营，请苻坚把秦军撤后一点，以便腾出战场，让晋军渡过淝水决战。
苻坚答应了谢玄的建议，命令秦军后退。没想到前面的秦军一后退，后面的秦军以为是打了败仗，就拼命地向后逃跑，军队一下就乱了。这时谢玄等率领晋军渡过淝水，向秦军猛攻。号称百万的秦军迅速崩溃瓦解，大部分被晋军歼灭，只有很少一部分残兵败将逃走。晋军取得以少胜多的辉煌胜利。
胜利的消息传到京城时，谢安正同客人下棋。送走客人后，他再也按捺不住心中的喜悦，当他跨门槛回卧室去时，把脚上穿的大屐齿都碰断了。
难怪李白要写诗“但用东山谢安石，为君谈笑静胡沙”，来夸赞谢安大敌当前依然从容镇定、谈笑自若的大将风度。