屡战屡败，屡败屡战。
小成功靠朋友，大成功靠敌人。朋友的帮扶固然有助于取得成功，而来自敌人（或竞争对手）的生存压力则可以激发出一个人的全部斗志和潜能，进而促成巨大的成功。从这个角度说，苏东坡的那句名言不妨改动一下：“古来之成大事者，不唯有多方相助之友，亦必有泰山压顶之敌。”
曾国藩就是这样。在1852年以前，他不可谓不成功，二十八岁就中进士、点翰林，在穆彰阿、唐鉴等师友的指点扶助下，十多年间先后从翰林院庶吉士累迁侍读、侍讲学士、文渊阁直阁事、内阁学士、稽查中书科事务、礼部侍郎及署兵部、工部、刑部、吏部侍郎等职，步步升迁到二品官位时年仅四十来岁，在仕途上可谓平步青云了。当时官场人物所称羡的“无灾无害到公卿，不谥文忠，便谥文恭”的美好前景，对于他而言已经不是什么问题。太平天国起义的爆发改变了曾国藩的命运。从奉命担任团练大臣，到率领湘军北进东征，直到1864年攻破天京，在整整十二年的时间里，曾国藩都在与太平天国作着拼尽全力的搏斗。太平天国覆亡，曾国藩出将入相，位极人臣，其公卿旧部遍于天下，他还被奉为中兴大清的第一人、立德立功立言三不朽的“古今完人”。曾国藩因太平天国而起事，也因太平天国而成功，这个“敌人”成全了他。不过这个“敌人”也太强大、太与众不同了，曾国藩的成功也因此来得太艰难。
有一个传闻，说曾国藩率湘军对太平军作战屡次失利，在向朝廷写奏折汇报时颇费心思。一群秘书绞尽脑汁也想不好如何措词，而曾国藩只改动了两个字就解决了这个难题：把奏折中的“屡战屡败”改为“屡败屡战”！两字的顺序之别，意味便截然不同，前者论理该罚，后者论情该奖。曾国藩用文字游戏糊弄中央，在北京的统治者当然不会不明白就里，然而只要曾国藩还在用心地“剿匪”、还在忠诚地向中央汇报和请示工作，这也就够了。何况玩弄文字游戏也是满族统治者自己的拿手戏，1860年咸丰皇帝北逃承德被说成是“谒陵”，1900年慈禧带着光绪西逃西安被说成是“巡狩”。相比之下，曾国藩的舞文弄字只能算是小把戏了，，何况这个传闻本身就不可信。
“屡战屡败”“屡败屡战”确是湘军与太平军作战的实情。太平军虽然没有正规化的训练，也没有西方列强那样的“坚船利炮”，但这些昨天还在耕田砍柴、挖煤撑船的劳动者们，一旦被一种模糊而令人向往的宗教信仰武装起来，被建设人间“小天堂”的目标调动起来，被从书本上学来的古老的办法组织起来，就突然有了巨大的势不可当的冲击力量。他们拿着简陋的兵器，用着陈旧的战术，甚至用笨拙的办法，一次次打败了清政府派来的正规军，以惊人的推进速度占领了南京，并建起了与北京的朝廷分庭抗礼的天国政权。他们又善于在战斗中积累经验，善于用火攻和水战的优势打败清军，善于利用先进的武器装备。他们的军事领导人虽然没有经过正规的军事训练，但是一经战阵便展现了惊人的军事天赋，杨秀清、石达开、陈玉成、李秀成等，都可以跻身中国历史上最优秀的军事家之列，即便是火攻、诈降、围魏救赵等古老的战法和计谋，都能被他们灵活地用来对抗清军。
面对着这样的对手，曾国藩不能不“屡战屡败”“屡败屡战”。他晚年曾总结自己一生中处境最为困难的三个时期，一是刚出征时的靖港之败，一是兵败湖口与坐困江西时期，一是祁门大营遇困前后。而这三个时期又是湘军“屡战屡败”“屡败屡战”的典型代表时期。
重整旗鼓，编练水师。
饱尝尽丧水师之痛的曾国藩，每每看到蜷缩在岸边的东倒西歪的长龙、快蟹，再想起被锁在鄱阳湖中的舢板，心中总是痛苦不已。
水师是曾国藩的命根子。在一定程度上，曾国藩觉得水师比陆师更亲近，因为水师的将领都是由他一手提拔上来的。在曾国藩的内心深处，他实际上是把水师视为自己的嫡系部队。现在水师遭此重创，曾国藩决不会让它就此一蹶不振。
为重振水师，他命令在湖北新堤的造船厂要不分昼夜、不惜任何代价尽快为他修复旧船、赶造新船。上次派彭玉麟回师湖北，其实际目的也是派彭玉麟到金口修复船只，另外让他到湖南去招募新勇，扩充水军。对于那多条被困在鄱阳湖内的舢板，他更是心急如焚。因为这些舢板没有辎重大船随行，不但无法冲出鄱阳湖，甚至连自身的生存都出现了很大困难。为了解决这一问题，曾国藩亲自跑到江西省城南昌，与巡抚陈启迈商量，央求他为湘军造长龙船三十号，交给内湖水师使用。经过一番努力，到1855年7月份，湘军的外江水师又扩充到十营五千人，基本上恢复了原来的规模。同时，内湖水师也扩充到八营四千人，供给吃饭问题也基本得到解决。曾国藩急忙令彭玉麟化装成商贩，经过太平军的控制区，与内湖水师取得联系。然后由他带领这支队伍驻扎在南康府，伺机冲出湖口，与外江水师会合。
这期间，江内水师也增加了战船，解决了供应和军饷，开赴湖口，攻击湖卡。7月，湖内水师统领萧捷三在湖口战死。曾国藩调彭玉麟从湖北赶往江西。彭玉麟此时正在湖南省亲，闻命启程，扮作商人穿越太平军控制的地区，步行数百里赶到江西南康府接任水师统领任。自此以后，湘军水师正式分为内湖水师和外江水师，分别由彭玉麟和杨载福统带，这成了湘军水师的定制。
为适应湘军的水战，太平军也在九江设立船厂，制造战船，至咸丰六年三月（1856年5月），已经制造了数百条战船。这样的发展形势让曾国藩感到不安。他怕太平军水师过于强大，自己无法对付，于是命令杨载福伺机歼灭之。太平军水师因为是初建，很难抵挡湘军的攻击，所以他们避开了外江水师的力量。杨载福选了三百名死士冲入太平军水师营中，把他们的船只全部烧毁，长江水域又全部为湘军水师控制。曾国藩的努力终于没有徒劳。
经过此番调整，湘军的实力更加雄厚。水师力量的加强是明显的，陆师力量留在江西由曾国藩直接指挥的部队比原来减弱了一些。但罗泽南部开赴湖北，胡林翼以这支湘军为主体不断扩充，使这支部队的力量不亚于曾国藩亲自指挥的陆师。胡林翼原为曾国藩的部下，他的军队主力是曾国藩的部队，他与曾国藩关系密切，在“中兴名将”中地位与曾国藩相埒（liè），被人称之为“曾胡”。他们的部队一在长江上游，一在长江中游，相互照应，互为犄角，成为太平军的两个死对头和主要敌人。他们在以后鄂、皖、赣、湘数省的作战中相应契合，成为了太平军失败的主要原因。
整饬革新，再度操劳。
正当曾国藩大力兴办洋务事业并努力恢复因战乱而残破的江南经济的时候，同治七年七月二十七日（1868年9月13日），曾国藩接到上谕，命他任直隶总督。
整个清代，直隶总督负有护卫京师的责任。因此，除了特殊的情形如对西北用兵、对太平天国用兵外，直隶总督一直是最重要的地方官，其次才是掌握最富庶的江南、供应朝廷财政需求的两江总督。
曾国藩交代完两江总督任内各事后，12月17日才登舟北上。
1869年1月25日，曾国藩抵达京师，自1852年离开都门，到现在已整整十七年过去了。这十七年风雨沧桑，曾国藩自身已经发生了巨大的变化，中国的变化更是巨大。京城里面，过去熟悉的面孔好多已经不见了，咸丰皇帝已死，新皇帝年纪尚幼，当年的军机大臣已没有一个在位，当初对他有恩的军机大臣、大学士穆彰阿，在咸丰帝即位后被罢免，现在也已死去十多年了。
天下大乱稍定，直隶的事情可以说是千头万绪。从哪里着手呢？又该以什么样的态度办这些事呢？曾国藩心中有数。他刚到保定，还没有正式接印，就作了一副州县官厅联，联中这样说：“长吏多从耕田凿井而来，视民事须如家事；吾曹同讲补过尽忠之道，凛心箴即是官箴。”第二天，他对这个联语不甚满意，又另撰了一副：“念三辅新离水早兵戈，赖良吏力谋休息；愿群僚共学龚黄召杜，即长官藉免愆尤。”写了之后又不满意，再撰一副：“随时以法言巽语相规，为诸君导迎善气；斯民当火热水深之后，赖良吏默挽天心。”这三副联语都表达了曾国藩此时的心情，那就是除了办好练兵等事外，要整顿吏治，希望官员们能够体恤民间的疾苦，认真办事，修养生息，让老百姓有个喘息的时间，恢复残破的社会经济，同时也就是巩固大清朝的统治。虽然年事已高，曾国藩仍想勉为其难，做好这个直隶总督。
练军队是曾国藩上任直隶总督后的第一项任务。曾国藩在向两宫皇太后请训的那一天，上过一个“略陈直隶应办事宜”的奏折，其中第一条说的就是练军队的事情。长期以来，特别是第二次鸦片战争以来，直隶的军队衰弱不可用，直隶的防务十分空虚。剿捻战争时，西捻军曾冲入直隶一带，直隶根本无可与捻军一战的军队，全靠外调来的军队，清廷应该也不希望再发生这样的事情。另一方面，京师离海较近，两次鸦片战争中，英、法军队随时可到天津海口骚扰、威胁，而1860年又占领京师，因此直隶急需较有战斗力的军队。
怎样训练、充实直隶的军队呢？曾国藩先要借重的是淮军。
曾国藩认为，淮军中最好的将领是刘铭传，其所率铭军的战斗力是淮军中最强的。因此，他要用刘铭传所部铭军一万多人拱卫京师。当时刘铭传因为朝廷对剿捻战功的奖赏不公，愤而告病在家。清政府中有人主张战事既已结束，应将勇兵包括刘铭传所部全部裁撤；有人主张另派统领。曾国藩坚持不另派统领，不裁撤铭军，暂由刘铭传部下刘盛藻统带。
但是刘铭传一军只有一万多人，实力尚觉不足。曾国藩认为至少还需要一万人。这一万人的军队不能再靠湘淮军，须另外训练军队，这就是从绿营中抽调出来的练军。
练军是1863年由麓前直隶总督、湘军大蘩将刘长佑开始编练的。1863年，湘军宿藤将刘长佑出任直隶总督，他奏请从绿营中挑选精壮，重新组练一支军队。其组织制度多仿效湘军，由刘长佑从各镇军中挑选营官，由营官在他原来所辖的军中挑选士兵，不足则到附近其他军队中挑选，五百人为一营，二千五百人为一军。到1865年，户部与兵部会议，选练直隶六支军队，定名“练军”。但练兵之事常受户部及京中嫉妒湘军的官员的掣肘，而1867年刘长佑又被免职，所以成效不大。
到了曾国藩任直隶总督的时候，战争已经结束，财政状况比过去稍稍好转一些，而直隶在列强虎视眈眈的情形下，必须有得力的军队才行。在这种情形下，曾国藩较多地改革军队。曾国藩的办法，仍是编练练军，而不是振兴绿营。在他的心目中，绿营的制度实在已经无法振兴。
接任三个半月后，曾国藩初步了解了情况，提出三条建议：
第一条，叫“文法宜简”。他在比较了湘军和绿营兵的差别后说，湘军勇丁“帕首短衣，朴诚耐苦，但讲实际，不事虚文。营规只有数条，此外别无文告。管辖只论差事，不甚计较官阶。而挖壕筑垒刻日而告成，运米、搬柴崇朝而集事”。绿营兵则过分讲求仪式礼节，好像不是军队而是官衙门。出征的时候，行军要用官车，扎营要用民夫劳作，“油滑偷惰，积习使然”。先前所定的练军规条有一百五十余条之多，即使是读书人也无法完全记住，导致“文法太繁，官气太重”。这些都要参照勇营即湘军的办法加以改革，将条规简化，做到简明、易懂、易守，不要排场，不要官气。
第二条，叫“事权宜专”。从前的练军，仍然效仿绿营的办法，统领经常更换。统领之下的营、哨各官，都是由总督指派而不是由统领选拔。统领没有选拔和撤换下属之权，没有管理军饷之权，一旦作战，下属都不肯用命。现在要像湘军一样，一营之权，全部交给营官，统领不遥制；一军之权，全部交给统领，大帅不遥制。他说湘军统领所以能够发挥其才干，就在于事权归一，指挥纵横如意，练军就是要仿效这个办法。
第三条，叫“情意宜恰”。曾国藩说，现在练军士兵虽然离开他原绿营的队伍，但是是否挑入练军是由其原绿营的营官决定的，而不是练军的营官挑选的。主持练军的营官，没有对士兵的提拔和黜革之权，上下隔阂，情意全不相连，当有紧急事变时就不可靠。还有，各营练军有冒名顶替之弊，防不胜防。因为从前绿营军饷较少，士兵常常要做小贩或手艺谋生。练军士兵调到别处训练的练饷二两四钱，在练营领取；而原绿营的底饷，仍在绿营本营领取。士兵便常常在练营附近雇人顶替，将练军军饷给冒名顶替的人。但是一有远征，受雇的人不肯随着远征，于是再雇乞丐、贫民前往。这样兵额一个，但人已三变，怎么能打仗？今后将实行两个办法：一是一旦一个士兵挑入练军，即将其原在绿营的名额裁去。练军增一兵，绿营的营即少一兵；二是无论绿营底饷还是练饷，都在练军发放，从根本上杜绝冒名顶替的情况。这样做实际上是逐渐取消绿营。将来还要仿效湘军的办法，统领选营官，营宫选哨官，哨官选什长，什长选勇丁。
按照曾国藩拟订的这三条，练军的体制更接近湘淮军了。
半年以后，同治八年八月二十七日（1869年10月2日），曾国藩又奏定按照湘军的制度，为练军设立长夫之制。每营练军设长夫一百五十人，这一百五十人实际上就是辎重和后勤兵。每月拔营一次，实际就是我们今天说的军事演习。拔营要行二三百里，命士兵像实战那样修垒挖壕，不准像以前绿营那样出行坐车。第二年四月（1870年5月），曾国藩又拟订了《直隶练军步队营制》和《直隶练军马队营制》，其中马队完全抛开绿营，从直隶省农民中选募。
由于经费并不充足，曾国藩最初只能练三千余人，三个统领中，两个用当地军官，一个用以前湘军的军官彭楚汉。
直隶练军人数不多，但影响却很大。在曾国藩的组织领导和筹划之下，练军的制度基本成型了，而其本质就是采用湘淮军的制度。当时各省的绿营已不能再作为作战部队，这已是人所共见的事实，但是各省督抚苦于绿营是国家的“经制”之兵，不好裁撤，也不知如何改造。直隶编练练军之后，各省纷纷仿效。于是同治朝以后，绿营逐渐消亡。另一方面，镇压太平天国和捻军的战争结束以后，湘淮军及各省招募的勇营，除部分裁撤外，都驻防全国各要地，改称为“防军”。于是有清一代的八旗和绿营军制，实际上已经消亡，这也许是曾国藩所始料不及的。曾国藩去世以后，防军、练军曾参加过两次较大规模的反侵略战争，即中法战争和中日甲午战争。