由于诸事不顺心，曾国藩的心情愈来愈烦躁。常常是看什么都不顺眼，动不动就因为一点小事迁怒弟媳，责骂弟弟，弄得曾府上下，人人提心吊胆，不知道哪天会惹得曾国藩大怒。
正当曾国藩在家苦恼万分，懊悔不迭的时候，前线局势也有了很大变化。1858年3月，离开天京之后的石达开率领万人大军由饶州、广信一带转入浙江，很快攻占了常山、江山等地区，并对衢州发起围攻。曾国藩的老朋友胡林翼趁机上书咸丰皇帝，奏请让曾国藩再次带兵赴援浙江。胡林翼让曾国藩再次出山，主要是想让他助自己一臂之力，早日平乱。再者，也可以回报曾国藩以前的推荐之恩，为老朋友谋得一处地方实权。清政府考虑到湘军是曾国藩创立的，湘军将领都听他的指挥，只有他才能统一指挥各路湘军。曾国藩在湘军中的地位无人可以取代。由他出来领兵，可以加强湘军各方面的联系，尽快剿灭太平军。所以就同意了胡林翼的奏请，谕令曾国藩再出山统兵。
曾国藩接到谕旨之后，真可谓久旱遇甘霖，连称“圣恩高厚”，“感激之忱，匪可言谕”。对皇上这次命他再度领兵，他感激涕零。于是，他这次再也不敢提什么统兵大员非位任巡抚不可以成功的旧话，向皇上讨价还价，索取抚督大权了。曾国藩于1858年7月13日接到命他急速援浙的圣旨。17日就从家动身，其间不敢有丝毫耽搁，深怕皇帝改变初衷，收回成命。临走之时，他抑制不住内心的喜悦，兴高采烈地对他的弟弟曾国荃说起了一段故事：他父亲年青的时候，有一次到南岳烧香拜菩萨，在上封寺求得一签，签上写着：“双珠齐人手，光彩耀杭州”。曾麟书异常高兴，曾经对夫人说：“我将来必有两个儿子在浙江做官”。这次皇上命他带兵人浙，曾国藩忆起了这段往事，便断定这是他和其弟曾国荃人浙的吉兆。
二度出山，曾国藩对前途又充满了希望。他相信，凭自己的才干和抱负，经过一年多痛苦的自省，自己必然能以更为圆熟的技巧，老到的功夫，在东南这块血与火的政治舞台上，演出一幕迥异往昔的精彩之剧来。
曾国藩离家之后，首先是奔赴长沙去见骆秉章与左宗棠，商量出师计划。左宗棠在曾国藩心目中的地位是很重的，虽然去年左宗棠骂得他最厉害，现在回忆起来还心有余怒，但认真想想，左宗棠骂得也不错，自己的确不该在那时负气离开湘军；向皇帝伸手要官的行为既不符自己的初衷，也徒取其辱。所以，自己一定要以老子的“大柔非柔”，以屈求伸的态度处理好与左宗棠及诸文武官员的关系。此时，四十七岁的左宗棠仍是以举人的身份在骆秉章的幕府中襄理军务。虽然如此，他的名声却很高。早在三年前，左宗棠在家自办团练之时，其名声已誉满江湘。御史宗稷辰向朝廷推荐人才时，左宗棠的名字被排在第一位。咸丰帝打听了左宗棠的情况后，便记下了他的名字。后来咸丰帝接见郭嵩焘，君臣又议论了左宗棠。当咸丰帝知道左宗棠常以未中进士感到自憾时，便宽慰他：“不必非要以文章功名建功，而要在国家用人之际立业。”
曾国藩到了长沙，在骆秉章的预先传话之后，去见了左宗棠。曾国藩以无比真挚的态度与左宗棠交谈，毫无掩饰之情，使左宗棠很是感动，也一下子消解了左宗棠心里的不满，拉近了两人之间的距离，于是又和好如初了。
他们谈了很久很久，从用兵谈到做人，从做人谈到学问。左宗棠那气冲斗牛的气派，以天下苍生为己任的凛然正气，也不时感染着曾国藩。但此时的曾国藩已不再是一年前的曾国藩了，那种儒道溶揉的老练、神鬼莫测的神态，连左宗棠也感到曾国藩的再次出山，已非昔日可比了。
的确是这样，曾国藩到长沙的几天里，主要是遍拜各衙门，连小小的长沙善化县衙他也亲自造访。堂堂湘军大帅，如此不记前嫌、谦恭有礼的举动，使长沙官场人人都感到再次出山的曾国藩像换了个人，是以无不表示全力支持湘军，消灭“长毛”（太平军）。经过曾国藩的一番拜访、联络，赢得了湖南省大小官员的好评，他们表示要兵给兵、要勇给勇、要饷供饷。
曾国藩经与骆秉章、左宗棠商量，决定委派湘军张运兰部四千余人、萧启江部四千余人、吴国佐部一千五百人人浙，首先抓紧备饷、备械。曾国藩在长沙逗留十几天，随后乘船又到武昌。在武昌亦如长沙，衙衙拜访、官官恭问。胡林翼自不必说，武昌城里的官员也无不表示对曾国藩的支持，同湖南一样，为湘军供饷供械。
随后，曾国藩沿江东下，到了黄州府下游五十里处的巴河。这里驻着彭玉麟的数营水师，湘军大将彭玉麟、杨载福、李续宾、鲍超、李元度、杨国栋、彭寿颐、曾国华等人都集中在这里，等着与曾国藩商量军机。
在彭玉麟的座船上，曾国藩与这些阔别一年多的部下见了面，他们商量了下一步的行动。曾国藩提出：湘军的最终目标是攻下江宁。所以军事重心不能离开长江两岸的数省，力量要由西向东使，不能因为石达开的南窜就被动地跟着他走。目前浙江紧张，只能派部分兵力，配合地方绿营监视，不能轻意言战。所以，下一步的作战方案是：曾国荃的吉字营继续围攻吉安；李续宾、彭玉麟、曾国华、鲍超等营进入安徽战场，落足点是安庆；其余部队由曾国藩本人率带，奉旨驰援浙江。
计议已定，诸军按计而行。曾国藩亲率萧启江、张运兰、吴国佐各部援浙；李续宾拨出所部朱品隆、唐义训的一千余人任曾国藩的亲兵护卫营。曾国藩命部队到江西河口集结，自己则去了南昌，拜会江西巡抚耆龄。耆龄深知曾国藩再次出山的来头，也不像陈启迈、文俊那样为难曾国藩，并主动承诺为湘军供应粮草、军饷，这就使湘军军饷基本得到解决。
咸丰八年八月（1858年9月），曾国藩命部队由河口出发到江西广信府铅山集结。此时，石达开已由浙江南走福建，曾国藩率部在赣闽两省之间的弋阳、双港、金溪等地驻守。九月间，在江西建昌暂驻，准备由云际关人福建。此时，刘长佑军已驻新城，准备出关人福建，曾国藩即命张运兰、萧启江由广昌、杉关人闽，而他的大营一直驻在建昌，再未移动。
总之，曾国藩再次出山，一路风顺，完全改变了家居前的困守地位。，因此，他计划一年之内全歼太平军。但是，天有不测风云，世事的发展总是让人难以预料。迅猛发展的军事形势，再次打破了他的美梦。
太平天国出新秀
在曾国藩再度出山，奔赴湖南、湖北、江西，协调湘军与地方政府的关系，重新调整湘军阵容，计划攻皖援浙的战略行动之时，太平天国也在理顺天京变乱、石达开出走之后的政治与军事关系。
石达开出走后，洪秀全对他做了大量争取的工作。洪秀全认识到当时岌岌可危的形势，决心振发一番，扭转危局。他罢免了不得人心的两个兄长（仁发、仁达）的职务，任命陈玉成、李秀成、李世贤、韦俊为前、后、左、右军主将，并启用林绍璋、蒙得恩一起管理朝政。尤其是对陈玉成几位年轻主将的任用，大大加强了太平军的战斗力量。林绍璋、蒙得恩等人的政治素质和领导能力当然远远赶不上杨秀清等前期领导人，但他们的被任用，一度稳定了天京变乱以来领导层的混乱局面，为太平天国后期的斗争，创造了一个好的起点。
陈玉成和李秀成成为这些新提拔的诸人中的佼佼者。两人都是太平天国起义时就参加太平军的广西老兄弟。1858年时，陈玉成只有二十一周岁；李秀成稍大些，也不过三十五岁。两人年纪虽不大，文化程度也不高，但多年的战火考验已把两人锻炼成了有勇有谋、能征惯战的将领，资格也算比较老。太平天国在石达开出走后还能支撑七年，此二人功绩不可不提。
1858年8月，李秀成、陈玉成等太平天国重要将领在安徽枞（cong）阳召开军事会议，决定分进合击，集中兵力打破清军的江北大营，以解天京之围。随后太平军和清军展开大战，陈玉成军自湖北和安徽挥师东进，破庐州（今合肥），然后与李秀成军会合，先在乌衣击败德兴阿和胜保军，接着又在江浦击败江南大营来援的冯子材部，而后乘胜进军，一举攻占浦口；清军被歼二万余人，江北大营全面崩溃，解除了来自天京江北的威胁。
江北大营一垮，天京的压力减轻，陈玉成便可以集中力量对付步步进逼的湘军了，处在湘军最突出部分的李续宾部就陷入了危险的状态中。
正在这个节骨眼上，胡林翼又因母丧丁忧。
重出江湖失靠山
曾国藩这次出山的最高目标在攻克天京，彻底镇压太平天国运动。因此，他这次重新领兵之后，并没有盲目地听从咸丰皇帝的指挥，把湘军的所有兵力都布置到浙江去。而是先仔细地分析了一下形势，认为太平天国据守长江下游，要想攻克天京，只能从长江上游各省着手。现在清军已基本控制住了湖北、江西、等省。太平军势力较强的只有安徽一省。如果湘军能再控制住安徽省的局势，那么，天京迟早要成为一座孤城。所以他这次出兵首在争夺安徽。自己人浙，只带领一部分战斗力并不太强的人马随去，而把湘军的精锐之师交给李续宾、弟弟曾国华率领，攻打庐州，进逼安庆。
1858年8月，曾国藩奉命按原定计划率领一部分湘军入浙，但他刚行到江西广信府时，又接到咸丰皇帝的紧急上谕；说石达开已从衢州撤围，南走福建，命他率部改道福建。曾国藩又不得不辗转南行，直奔福建而去。
奉曾国藩之命进军皖中的李续宾部，在陈玉成攻克庐州后，收到咸丰皇帝立即夺回庐州的命令。迅速向庐州靠拢，驻兵三河镇。
1858年8月19日，胡林翼之母去世。此时的曾国藩已隐约感觉不妙，因为自曾国藩丁忧家居后，湘军全靠胡林翼护持。胡母去世，按规定胡应丁忧，胡若离湖北，湖广总督官文决不会像胡林翼那样关照湘军。曾国藩虽然再度出山，但因没有地盘，没有地方实权，还是非常需要胡林翼的关照。曾国藩在写给吉安前线的曾国荃的信中说：“水陆数万人皆仗胡公以生以成，一旦失所依倚，关系甚重。”胡林翼离武昌回湖南，曾国藩在给左宗棠的信中又说：“润公已到家否？渠再造江、汉糜烂之区，变为富强，意量之远，魄力之大，中枢似尚知之未尽。守制不出j自是正理，然以时势、物望揆之，又似非得终请者。弟处之事，自润公出位，全局皆呆，恒自哂也。”
曾国藩最感到不安的，就是负责进攻皖北的李续宾一军。李续宾部现归湖北方面指挥，而皖北另一路对抗太平军的清军钦差大臣是满人胜保，胜保与太平军作战连连失利，却忌妒湘军的战功。因此，曾国藩在又一封给左宗棠的信中说，安徽战事由胜保指挥，李续宾可能会受牵制。如有为难之处，只有胡林翼能够扶助并让他安全。曾国藩又写信给李续宾和曾国华，告诫他们小心行动。希望南路湘军攻占安庆后，湘军水师可以直达桐城。叫他们不要孤军向北，并特别嘱咐要与水师相依，才比较安全。写了此信后，曾国藩还不放心，又写信给驻守后路的李续宾的弟弟李续宜，告诉他，李续宾处兵力虽强，但千万不可分军，分则力单，一败则整个形势将为之牵动。
曾国藩的担心倒不完全是他有先见之明，而是与他丰富的军事经验和求稳求慎的军事思想有关。曾国藩用兵，常不求取胜，先求立于不败之地。
他说：“用兵之道，最忌势穷力竭四字。力，则指将士之精力言之；势，则指大局大计及粮饷之接续，人才之继否言之。”又说：“悬军深入而无后继，是用兵之大忌。”危急之际，尤以全军保全士气为主。孤军无助，粮饷不继，奔走疲惫，皆散乱必败之道。“后来，清末民国初著名的军事家、湖南邵阳人蔡锷还把这些话收集到《曾胡治兵语录》中。按照曾国藩的做法，每进攻一个地方，攻城须有攻城的部队；另外一定要有负责打援的部队；要有隔断附近太平军各个据点的联络的部队；还要有一支机动部队，按现在的讲法，就是战略总预备队。虽然湘军大多是以少敌多，但一般是要在这些工作落实之后再发动进攻。”
但是，此时已由不得曾国藩了。咸丰帝闻报庐州（今合肥）失守，非常焦急，他最担心的是太平天国越过长江流域向北发展，再与捻军会合，威胁他的京师的安全。这时，胜保又几次秘密上奏，说李续宾赴援迟缓，贻误军机。
因此，咸丰帝十天之内七次下诏，命李续宾迅速赴援。其实，咸丰帝完全是瞎指挥，从湘军的出发地皖西南的太湖一带到胜保驻地定远或庐州，都有数百里。李续宾所部只有八千人，即便冲过太平军的重重防线，也根本无法攻下庐州。
三河喋血丧精锐
李续宾部本是湘军攻占九江的主力，连续征战，并没有得到休整，胜利之后也有些浮躁。当太平军与清军北大营决战之时，李续宾便奉命乘虚向庐州方向一路进攻，9月21日占安徽太湖，27日占潜山，10月13日经血战占桐城，随后占舒城，进攻三河镇。
三河镇距庐州五十里，是太平天国的粮饷重地，庐州、天京都要依赖三河的粮饷接济，所以三河对太平天国极为重要。三河若失，不仅庐州危险，安庆也受威胁。因此，当三河守将吴定规向陈玉成求援时，陈玉成立即奏明洪秀全，请命李秀成也率部增援。于是，陈、李两军又一次合军作战，等于是倾太平天国主力来攻李续宾，李续宾部立即陷于危险之中。
李续宾本人也觉察出了孤军深入的危险，并且一路每克一城，都要分兵留守，当向三河方向进攻时，他身边的部队已不足五千人。有部下说：安庆未复，军行无后继，腹背受敌，此危道也。并建议回军桐城，与其他清军一同攻安庆，这样各军相距不超过百里，可以互相救援。但李续宾却因为屡奉咸丰帝诏旨催促，不便退军。他离开舒城前向咸丰帝奏报说：“臣所部八千人，因克潜、太、桐城及此间留防分去三千余人，数月以来时常苦战，未尝一日休止，伤损精锐，疮痍满目，现已不满五千人，皆系疲乏之卒。三河一带，悍贼虽多，自揣足以制之，若遇大股援贼，则兵力亦恐难支。要当尽其所能，以报皇上之恩遇而已成败利钝，非所计也。”
这话颇有些“风萧萧兮易水寒，壮士一去兮不复还”的味道。为防万一，他致信湖北请续派援兵。当时三河附近尚有两支机动部队：一为李续宾之弟李续宜，率四千人驻湖北黄冈；一支为唐训方，率三千人驻湖北英山。当李续宾求援信到武昌时，官文却说风凉话道：“续宾用兵如神，无所用援。”