曾国藩认为，国家的事情是最大的事情，把国家的事情办好了，也就实现了个人的抱负。他曾说过："凡办公事，须视如己事，将来为国为民，亦宜处处视如一家一身之图，方能亲切。"曾国藩从青年时代开始就非常仰慕唐朝的郭子仪，因为郭子仪能够抛开个人名利，以一腔热血为国效命。无论何时何地需要他，他都会义无反顾地去为国家排忧解难。曾国藩也有同样的抱负，希望国家能够将重任委托于他，实现为国出力的愿望。
咸丰皇帝登基不久，广西金田村爆发了农民起义，这就是有名的太平天国运动的发端。咸丰皇帝顿时陷入慌乱，不知所措。后来才采纳臣子建议，决定采用"以汉治汉"的方法平息农民起义。曾国藩以其名声得此重任，咸丰帝命其以在籍侍郎身份，负责招募一些勇士兴办团练。
曾国藩当时正在家里守丧，且考虑到可能失败，心中有所顾忌，就写了请求在家守制的奏章，请湖南巡抚骆秉章代呈。骆秉章再三请求，以及好友亲自到家里相劝出山，曾国藩才意识到，现在是国家危难之际，不应该再考虑个人的名誉和成败了，而应该把国事当做己事，于是认认真真地操办起团练来。曾国藩乃一文弱书生，如何建立军队和建立什么样的军队自然成了他最常思考的问题。面对众多困难，曾国藩没有气馁，而是艰难地前进着。
一八五二年，曾国藩开始办团练。但小小的团练并不是他的目标，次年，在皇帝的许可下，曾国藩主持编制了军队，规模越来越大，湘军很快就组建完毕。但这还是远远没有达到他的要求。曾国藩认为，太平军是一支训练有素的军队，八旗兵和绿营兵根本不能够抵挡气势汹涌的太平军，更不用说消灭他们了。因此，曾国藩在训练士兵时，要求很高，他要训练出一支善战的军队。正是这支队伍，在危难时，挺身而出，取得了许多战功。
曾国藩在面对强敌时，有一股勇者无惧的冲劲。曾国藩说："吾生平长进，皆在危难之际"；"困心横虑，正是磨炼英雄，玉汝于成。"曾国藩一介儒生却带兵打仗，失败接连不断。他把幕僚所写奏折上的"屡战屡败"改成"屡败屡战"，由此可见其意志坚强。尤其是他曾经四次自杀未遂，其所遭受的挫折和失败，是一般人难以想象的，但他能够战胜自我，调整情绪，蓄气长志，"屡败屡战"的精神，是他敢于挑战强敌的体现。
一八五四年四月，曾国藩率军至靖港镇，与太平军展开血战。由于中了太平军的埋伏，湘军大溃，曾国藩无法挽回败势，为免败后受辱，他竟跳江欲求自尽，幸被随员们救起，随残军败退长沙。
曾国藩大败之后，又鼓足勇气，继续埋头募兵练兵，原来的老湘军只剩了四千人，他陆续增至水陆两师二万多人，修造舟师，配备炮械。一八五四年七月，曾国藩再次指挥水陆二师北上，发动湘军的第二次攻势。
这一次大战，曾国藩被石达开困在鄱阳湖，无法突围。石达开更使用火攻，将湘军一百多只战船烧得精光。
曾匡藩在罗泽南的营里，目睹水师覆灭，船沉勇溃，愤不欲生，又一次赴水求死，幸为罗泽南、刘蓉竭力拉住。曾国藩自杀不成，黯然逃到南昌，受尽天下的冷嘲热讽、奚落讪笑。他说，这一次惨败，是他平生四大惭之一。
一次又一次的惨败，也曾使曾国藩灰心丧气，悲观到了极点，乃至蓬头垢面，不饮不食，跑到山上去写遗嘱。但是，他的自杀作为并非悲观失望，而是由于自己指挥不当，这种羞愤使他决心以死求得解脱。更重要的是。他从小受儒家文化的教育和熏陶，为国捐躯、尽忠报国、舍生取义之类的思想，早已把他的灵魂浸透了。
"鞠躬尽瘁，死而后已"是曾国藩的人生信条。曾国藩不满绿营军的就是他们有：叻便抢，有难便逃。在他得知曾国荃想延长休假时，写了这样一封信：
"天下纷纷，沅弟断不能久定，与其将来事变相迫，仓猝出山，不如此次仰体圣意，假满即出。余十五之信，四分劝行，六分劝藏，细思仍是未妥。不如兄弟尽力王事，各怀鞠躬尽瘁，死而后已之志，终不失为上策。沅弟于毁誉祸福置之度外，此是根本第一层功夫，到处皆坦途矣。"为实践其人生信条，他在戎马征战的沙场上殊死拼搏，几次欲自杀殉国。一八六○年，曾国藩被困祁门时，身处绝境，即作书告诸弟，等于一篇遗嘱："看此光景，今年殆万难支持。然吾自三年冬以来，久已以身许国，愿死疆场，不愿死林中，本吾素志。近年在军中办事，尽心竭力，毫无愧怍，死即暝目，毫无悔憾。"曾国藩几次自杀，表面上是他兵败后无颜见江东父老，内心里却是儒家文化的熏陶所致。他要以死报国，以身全志。曾国藩表示："不带勇则已，带勇则死于金陵，犹不失为志士。"他还以袁简斋的一句诗勉励自己：男儿欲报君恩重。死在沙场是善终。
"愿死疆场，不愿死牖下"，是曾国藩的素质。事实上，从他从戎那一天起，他就已经做好了为国捐躯的准备。作为一个文人而勉为其难来带兵打仗，如果难以期望大成，那么但求自己一死，其勇气与魄力也是值得佩服的。曾国藩其实也是一个平凡的人，也有着普通人的种种缺点和弱点，他之所以能成为英雄，一方面是因为他具有战胜失败、战胜自我的勇气与意志，而另一方面则是因为他能够把国事当做己事，全身心地投入到拯救国家于危难之中的事业中去。