曾国藩认为，做官的人应该拥有一种柔和宽容的风度，他特别强调做官要胸怀宽广，不要计较一时的得失，因为只有这样才可能追求长远的胜利。
拥有宽广的胸怀，就能在做事的时候任劳任怨，不会因为遭到别人一时的误解而前功尽弃。曾国藩自身的经历很好地证明了这一点。
曾国藩在与太平军斗争的过程中，最大的困难不是敌手的强大，而是清廷本身在政治、军事与财政各方面，存在着太多的矛盾和弱点，不能形成强大的力量与太平军作战。其次就是湘军本身缺少战斗经验，难挡大敌。因此，在以后的六七年中，曾国藩虽然为自己建立了一点声望，而来自各方面的挫辱和打击，也不是常人所能忍受的。
一八五四年，曾国藩初次出师图援湖北，行至岳州，猝遇大风，沉没船只数十艘，勇夫落水淹死的也不少，军中士气颇受打击。陆师王鑫一军，行至羊楼司，与太平军遭遇，大败而回。曾国藩此时又以上年在衡州时，奏请以杨健入祀乡贤祠一案，部议革职，奉旨改为降二级调用。
曾国藩为清廷卖命，结果为了一点小事，竟遭到如此严厉的处分，其内心的沉痛，是可想而知的。所以当四月二日亲率水师于靖港出战太平军，遭受挫败时，他逆料清廷必将科以重罪，展望前途，大局已毫无希望，于是纵身投水，图以一死超脱自己。然而连续两次，都被左右救起。幸得陆师塔齐布大破太平军于湘潭，歼斩敌人数千人。得此捷报，曾国藩才打消死念，重新振作精神，部署再战。
此后，湘军作战颇有进展，声誉日起，而清廷为了抑制汉人，还不时找点小毛病来挑剔责难一番。例如，八月间曾国藩军克复武昌，有旨授湖北巡抚，曾国藩上折固辞。这本是曾国藩谦退的表现。清廷却恼羞成怒，降旨准辞巡抚而责其奏折的小毛病，严行申饬。
这年十二月，湘军水师攻太平军于湖口，舢板船驶入内湖，被阻不得出。
周凤山陆营又败。二十五日夜间，曾国藩大营遭受偷袭，连旗舰(坐船)都被太平军掳了去，文书密件尽失，曾国藩几乎被俘。还好混乱中有人驾一小船，救出曾国藩，避入岸上陆营，才免于难。连番挫折，使曾国藩愧愤不已，他立即骑上战马，要冲八敌阵，壮烈战死。罗泽南、刘蓉等一班将领幕僚，拼命劝阻才罢。
此时，湘军主力全在江西，理当以江西财源，全力支援湘军军饷。江西巡抚陈启迈，也是湖南人，又与曾国藩是同榜进士，翰林院同事。凭着这样深厚的关系，照理应该更容易合作才对。然而事实却大为不然，陈启迈并不感谢湘军为他守土保官的功劳，反而处处与湘军为难，拒不供应军饷。曾国藩当时只是以"兵部侍郎督办军务"的身份在江西作战，本身不负行政责任，没有地盘。军饷的来源，全得仰赖江西及其他省份解款接济。现在连主省份都拒绝供饷，湘军的生存，便立即感受到威胁了。
这时又发生万载知县李皓与举人彭寿颐因办理团练不和，互相纠控一案。
经曾国藩查得李皓有受人贿赂，弃城逃走等罪；而彭寿颐却为人刚直，办理团练也颇具才华。可是陈启迈却有意曲庇李皓，而加罪彭寿颐。曾国藩也不想与陈启迈发生正面冲突，于是面商陈启迈，咨调彭寿颐至军营效力。用意不过想借此平息李、彭的控案，化纷争于无形而已。
不料陈启迈却认为曾国藩干涉了他的政治权力，勃然大怒，不仅拒绝了彭寿颐的调用曾营，反命按察使恽光宸将彭逮捕下狱，用刑逼供，坐以诬告之罪。这分明是要给曾国藩难堪了。曾国藩至此忍无可忍，也发了火，立即具折参了陈启迈一本，罗列陈启迈诸项劣迹，请旨惩处。这时江西、湖南、湖北三省地盘，清廷全仗曾国藩支撑，得奏不敢迟疑，立将陈启迈、恽光宸先行革职，所参各案，着新任巡抚文俊查奏。一年以后，文俊复奏，词颇含混敷衍，陈启迈被饬回籍了事。由此可见清廷并没有采信曾国藩的弹劾，其革退陈启迈，不过是担心曾、陈不和，影响战局而已。
一八五六年，湘军在江西作战并不顺利。其主要原因在于兵少力分，顾此失彼。前一年，陆军名将塔齐布病故军中，曾国藩如丧一臂。接着罗泽南奏命赴援武昌，彭玉麟驰往临江，陆师一分为三，水师也分为内湖与外江两处。周凤山接统塔齐布的部队，大败于樟树，南昌省城因而告急。曾国藩飞函向湖北、湖南两处求援，又往往被太平军中途截获，机密尽泄。这一年的二三月间，江西十四府州之中，府城八座被太平军所占，州县城邑五十余处，皆告易手。而湘军另一大将罗泽南，又于三月初攻武昌时受伤而卒。各路援军迟迟方到江西。这一年的九月，李元度大败于抚州。十月建昌围城清军也为太平军所破，福建援军被逐回闽，曾国藩坐困南昌，局势相当危急。
南昌省城的官绅们，对于曾国藩议论纷纷，讥弹备至。后来幸得广东援军进入赣南，解了赣州的围。湖北方面，胡林翼也派兵数千来援。湖南则有曾国荃、黄冕等募得湘勇三干余人，由南路直趋吉安。这几支军队，作战颇为得力，迭复要城。到了这年冬天，才把局势稳住。后来，太平天国发生严重的内讧，天京诸王互相残杀，领导失去重心，使得湘军有可乘之机，最终攻克金陵，将太平天国起义镇压了下去。
正是因为曾国藩能始终坚持，不计较一时得失，保持宽广的胸怀，真正做到了有刚有柔、能屈能伸，才实现了最终的胜利。