曾国藩察看完地形，见陈玉成驻守的蕲州江面战船不多，陆军大部分驻军江南，似乎随时准备援助大冶、兴国两城。于是心生一计，命令罗泽南和塔齐布各率领陆师一支，分别进攻兴国和大冶两城，引诱陈玉成派兵援助。然后，自己率领全部水师乘此机会，猛冲过蕲州。
第二天，塔齐布首先率领兵马向兴国进攻。陈玉成得报后，果然率领人马前去增援。但行至半路，忽又闻报说罗泽南又带兵进攻大冶，陈玉成无奈，只得又分出人马前去增援大冶。当陈玉成赶到兴国时，塔齐布已攻下兴国。陈玉成十分懊恼，又匆忙率兵赶往大冶。谁知刚到半路，就遇到从大冶溃败下来的士兵报告说大冶已丢。陈玉成气得两眼冒火，只得率部怏怏退回蕲州。
就在陈玉成离开蕲州的时候，曾国藩会合李孟群的水师共二十营约一万人，在呼啸呐喊声中冲破蕲州太平军水师防线。
下一轮的战斗首先在长江南岸的半壁山展开。罗泽南、塔齐布在攻克兴国、大冶之后，合军进攻半壁山。11月20日，罗泽南率兵先到半壁山下，接着，塔齐布也到了。湘军与太平军在半壁山下展开大战。由于湘军自湘潭一役以来，连打胜仗斗志正盛，再加上经过曾国藩的一番整顿，湘军中所剩的大多都是不要命不怕死的亡命之徒，所以个个不思退缩，凶悍异常。而太平军则正好相反，连吃败仗，有一部分士兵对湘军心存畏惧，士气首先就矮了半截。所以刚一交起手来，太平军虽然占尽地势之利，但仍处于劣势。结果，太平军迎战失利，退至山顶。
11月23日，太平军又增加了新的援军。援军由燕王秦日纲和北王韦昌辉的弟弟韦俊亲自指挥，分两路向湘军发起反攻。但一天苦战之后太平军再次败北。这一次的失败，太平军不得不退至田家镇，半壁山要隘被湘军占领了。
半壁山是军事战略要地。太平军丧失半壁山后，地利优势就完全丧失了。能阻止湘军东进的屏障就只剩下半壁山、田家镇之间的铁索了。因此，田家镇一战的关键是在水师方面。
11月27日，占领半壁山的塔、罗两师与冲过蕲州防线的杨载福、彭玉麟水师会商后，决定将水师兵分四路，与太平军水师在江面展开决战。第一路由各营中挑选出来的凶悍残忍之徒充任敢死队，负责破坏太平军的拦江铁索；第二路由彭玉麟率领，其任务是负责攻击太平军战船，压抑对方炮火，掩护第一路破坏铁索；第三路由杨载福率领，其任务是在铁索断后冲向下游，烧毁太平军的战船；第四路由李孟群率领，负责保护老营和后方辎重船只。
12月2日，曾国藩下令首先放炮击沉太平军护索小船。一声令下之后，数炮齐发，炮弹尖厉呼啸着飞向太平军的小船。护索的太平军小船慌忙迎敌，但由于先失战机，湘军火力强大，所以还没来得及装上炮弹，就都被湘军击沉了。接着，湘军选出的那些敢死队员，驾着20条快蟹向铁索冲去。每条船上都放着一口大锅，锅里盛满油脂，燃上大火，将油脂烧得滚沸。湘勇们忍受着炙人的高温，将船驶至铁索旁边，再将铁索拉到火焰上煅烧。等到烧得差不多时，便用铁钳将铁索夹出来放在预先准备好的铁墩上，几个人手执板斧猛砍一番，将铁索砍断。不到两个时辰，六根铁索全被烧熔砍断。
拦江铁索一断，杨载福急令船队顺江而下，抢先赶到武昌截断太平军船队的归路，然后再溯江而上，沿途放火，使太平军水师数千船只顿时化为火海。箭在飞、火在烧、刀枪相碰；鼓角雷鸣；湘勇为升官发财，个个不顾生死，凶狠狰狞。太平军为活命谋生，人人奋勇硬斗，强蛮顽梗。田家镇一带发生了一场亘古未见的恶战。只见双方死伤的人一个个掉进水里，未死的在江浪中拼命挣扎，已死的随波逐流。江水已被鲜血染红，半壁山似在低首垂泪，长江水也在呜咽悲号。
太平军自西征以来，水师船只不下万艘，湘潭、岳州、武昌几次大战均被焚毁不少，而尤以这次大战损失最为惨重。田家镇战役以后，太平军九江以上的船只荡然无存，水师也基本瓦解了。湘军水师得手以后，塔齐布、罗泽南陆师也赶来助攻，太平军险要尽失，士气大丧，不得不于12月3日撤出田家镇，向西退却。
第二天，陈玉成也带兵弃蕲州城而走，与从田家镇撤出的太平军会合后一直退回九江。
田家镇之战，湘军虽然获胜，但也遭到巨大伤亡。曾国藩战后清点人数船只时，说行军以来没有“丧失如此次之惨者”，言毕放声大哭。
九江战败挫锐气
田家镇大捷之后，曾国藩的湘军已经完全控制住了长江上游，再加上基本摧毁了太平军水师曾国藩等人非常高兴，来不及停下休整队伍，就立即令彭玉麟率领水师；塔齐布率领陆师，浩浩荡荡向长沙中游的重镇九江进发，叫嚷着要肃清江面直捣金陵。
田家镇战败的消息传到天京，杨秀清急忙派遣太平天国的优秀将领石达开、罗大纲赶赴西线指挥。当他们率军星夜兼程赶到九江时，前线太平军又告失利，连连退却。这样，太平军只好南渡长江，合力据守九江、湖口两城。
九江是长江上的重镇，在保护南京方面的作用非同小可。因此，洪秀全非常重视保卫九江的工作。当时林启容是九江的守将，领有一万人马。，严密把守九江。为了确保在战斗中不把九江丢掉，洪秀全又命令翼王石达开带领四万人马奔赴九江增援。而当时的湘军驻扎在离九江十里远的竹林店，属于九江上游，一共驻扎有二万人马的水陆两师。此时的湘军兵力虽不如太平军，但他们的水师装备精良，在前一时期连连得胜，所以士气很高，曾国藩很有信心。
但是，由于林启容守御得法，湘军在很长时间内没有攻下九江，并且伤亡严重。因此，曾国藩急于摆脱目前的困境。当时的水师统领彭玉麟给曾国藩献上一计，提出以小股部队继续攻战九江，大股部队则从九江绕过去，以湖口和梅家洲为攻击目标，为湘军东进打通道路。
湖口是长江中的一个码头，鄱阳湖在它的南边，长江在北边。梅家洲是一个江心沙洲，它正对湖口。梅家洲与湖口之间的江面是一般船只通行的地方。
曾国藩认为彭玉麟的建议比较符合时宜。然而，令曾国藩没料到的是，石达开对湘军此举早就料到了。当时有一万名太平军驻守在梅家洲，而湖口周围有大批太平军水师埋伏在那里。
石达开向众将分析：我们以险阻击湘军，已收成效，但要想破敌，就得出击，而打出城池与曾妖硬拼并无把握。湘军水师强大，我军战船数量不多。装备也远逊于彼。欲破湘军，必先败其水师；而破其水师，只能智取。
诸将向石达开询问智取之计。石达开说：曾妖的水师船只有长龙、快蟹、舢板三种。长龙与快蟹都是大船，行动缓慢，不利于前锋战斗，而利于指挥、运兵、运械；舢板行动轻捷，利于战斗。二者相互配合，取长补短，相得益彰，过去的几仗，皆仗大小船只的配合而取胜。今天我们用计让二者分开，使其分则两败，才是破敌良策。
诸将又问如何方能使其大小战船分开。石达开说：用计之事，我来布置。但自此之后，九江、湖口、梅家洲各军只许坚守。湘军来攻，一概置之不理。听我用计安排。
曾国藩几番进攻，皆遭挫败。休整了两日，不见敌军动静。于是，再令各路出击。诸军因有前番的教训，只是远远地开枪开炮，不敢再涉险境。即使如此，九江等城，亦不见太平军的任何反映，连冷枪也不打一发。各路军马折腾了两天，疲惫地返回营地。入夜正要休息，湘军水师的宿营江面突然枪炮齐鸣，并有无数小船冲人江中，把火箭、火球射向湘军水师船上。湘军水师欲战无从战、欲睡无法睡。连续几夜，弄得湘军惊恐不安，将帅们心焦气躁。
石达开见时机成熟，便开始用计。
咸丰四年十二月十二日（1855年1月29日），一串四十余只的太平军船队突然出现在江面上，这个情况被湘军斥侯看在眼里，报告给曾国藩。曾国藩立即与诸将商量对策。按照常规，湘军水师远胜太平军水师多倍，他们不该出动四十余只船在长江上行动，既然行动，必有原因，曾国藩本应小心对付。但适逢湘军既骄又躁之时，也不做深入推想。反正是石达开的船队，出来了就得打。曾国藩也认为再无攻敌良策，不能失此机会，便命萧捷三等率舢板一百二十余只攻击太平军船队。
萧捷三又气又急，想冲上敌船消除连日的躁气，命令湘勇快速追赶。太平军的船队都是轻便小船，见湘军大队来攻，也拼命前驶。双方你逃我赶，比赛速度，转眼划至湖口。眼看就要追上，萧捷三正准备命令前锋开炮。只见太平军船队向右一转，一齐向鄱阳湖驶去。萧捷三仗着自己的船多，不假思索，也指挥水师进了鄱阳湖。谁知湖口外连长江，内接鄱阳湖，入口极窄，如同一个大肚口袋的袋口。
双方船队进入鄱阳湖后，太平军立即封住湖口水卡，修上工事，安装大炮，将其死死地锁在湖内。如此一来，湘军水师被肢解为外江和内湖两部分。留在长江水面的长龙和快蟹大船，失去快船的护卫，完全陷入被动挨打的境地。
曾国藩等到傍晚不见萧捷三的消息，正在焦急，突然有大队太平军船只向湘军水师攻来。湘军的大船离开了舢板，犹如鹰隼失去了翅膀，在敌船的进攻中，只能笨拙地移动。太平军轻便的小船在湘军的大船夹缝中，穿梭般划来划去，投出串串火把、火球。不一时，便烧毁湘军大号船、中号船四十余只。曾国藩、彭玉麟仗着大船炮火猛烈，打得太平军快船无法靠近，才免遭灭顶之灾。
太平军船队胜利撤走后，曾国藩急忙调回在武穴养病的杨载福，又调回罗泽南、胡林翼各部，集中力量，再攻九江。就在罗泽南回九江的当天夜里，即咸丰四年十二月二十五日（1855年2月1日）夜间，太平军对湘军水师发动了更大规模的进攻。石达开命数十只小船满载各种火器，钻人湘军船队中间放火延烧。当夜月黑风高，咫尺难辨敌我。太平军小船夹在湘军大船之间，大船的炮火完全失去效用。大火燃起，湘军战船纷纷向上游逃跑。曾国藩的主帅船行动不便，落在后面。太平军认得这是湘军统帅的船，便高呼：“活捉曾妖！”纷纷跳上指挥船，与曾国藩的亲兵展开了白刃格斗。太平军蜂拥而上，亲兵死伤越来越多。曾国藩眼看着船上的厮杀，自己无能为力，心胆俱裂，四肢痉挛，料想此次必死无疑。突然，他见到一名高大的太平军战士向他冲过来，便猛地推开舱门，跳入黑沉沉的大江之中。幸好一名贴身警卫发现了他，也飞身跳下，将他拖出水面，送到正要逃跑的一条小船上，划向江边。
大家七手八脚为曾国藩换衣服，搓手脚，使他慢慢清醒过来。曾国藩睁开眼睛，遥望江面滚滚的烟雾，听着不时响起的枪炮声，看到自己精心建起的水师遭到毁灭性的打击，被击毁的船只歪歪斜斜散在江边，情景甚是凄凉。他深感大势已去，再难收拾，全身发冷，胜过沉在冰冷的江水里。眼前浮现出湖南官绅对自己冷嘲热讽的嘴脸；浮现出咸丰皇帝对自己的怒斥。
这时，罗泽南、刘蓉等将领都围着曾国藩，看着他呆呆痴痴的神情，不知他有何想法，也不知如何劝起。突然，曾国藩站了起来，大声说：“给我一匹马！”大家不明白他的意思。因为曾国藩平日是不骑马的。自湘军水师建起后，他更不骑马而总是坐在最大的指挥船上。他这时刚被从江里捞出，身体虚弱，如何能骑马呢？“大人！抬您回营吧！”亲兵以为他的船被俘获，要乘马回营了。
“牵马过来！”曾国藩又一次高声命令。
亲兵不敢违命，给曾国藩牵过一匹马。曾国藩让人把自己扶上了马。他跨上马背，突然一挺腰，双腿用力一夹，战马纵身奔驰而出。罗泽南、彭玉麟同时跳起，抓住马缰。怒马长啸一声，扬起前蹄，停了下来。
“曾大人，千万想开！”彭玉麟几乎是哀求了。
原来，曾国藩是学春秋晋国大将先轸的样子，骑马跑进敌营，让太平军把他杀死。大家扶起从马上摔下来的曾国藩，苦苦地劝慰，方才使他打消再次自杀的念头。
湘军水师遭到致命打击，留在鄱阳湖内的快船无法出湖作战，陆师也屡受挫败，太平军取得了长江上游的重大胜利。湖口战后便乘胜反攻，水陆沿江而上，势如破竹，连下黄梅、广济、蕲州、黄州，咸丰五年正月初七日（1855年2月23日）重占汉阳城。清政府闻讯急令曾国藩回师武汉。曾接到严旨，只得派胡林翼、王国才两部及彭玉麟、李孟群水师援救武汉。然而太平军对武汉包围甚紧，湘军力量单薄，加之新败，因此未能救得武汉。二月十七日（4月3日）武昌终被太平军攻克，湖北巡抚陶恩培被打死，湖广总督杨霈逃走。
关于九江之败的具体情形，曾国藩在给皇帝的两封奏折中做了具体的阐述，它们是：《内河水师三获胜仗折》及《水师三胜两挫外江老营被袭文案全失自请严处折》。从这两份奏折的内容看，一是曾国藩已经不再像靖港之战以后的他那样畏惧失败；二是在奏折中很巧妙地交替描写胜败的场景，让咸丰帝无法对此次战役的实际情况和失败的严重程度有很好的把握。
正因为曾国藩这两份极有水平的奏稿，所以他文中请求皇帝把他交给刑部严加处理的要求并未让咸丰帝多加重视。咸丰帝的上谕中就明确表示了这一点：“水师锐气过甚，由湖口驶至姑塘以上，长龙、舢板各船与外江师船隔绝，以致逆氛顿炽，两次被贼袭营，办理未为得手。曾国藩自出岳州以后，与塔齐布等协力同心，扫除群丑，此时偶有小挫，尚于大局无损。曾国藩自请严议之处，著加恩宽免。”
至此，湘军苦战攻克的长江重镇全部为太平军重新夺取。曾国藩进退两难，被咸丰下旨痛骂了一顿，仍命他克日攻下九江，东下取南京。曾国藩只好照办。
曾国藩在战场中“长于策略，短于指挥”，也正因为如此，他的两次亲自指挥均以失败告终，尤其以靖港之败与九江之败最为深刻，而且两次都差点让他送了命。但是，九江之败是发生在湘军为朝廷立下赫赫战功，取得了一系列军事胜利之后，因此，它对曾国藩来说影响并不是特别大。但是，从另一个角度来说，九江之败却破坏了曾国藩夺取南京的计划。而且，自此之后，曾国藩坐困江西，他的军事生涯也大不如前。这对他来说可谓是深刻的教训。
连战失利落低谷
曾国藩在与太平天国军队长时间的对峙中，从未犯下低级错误，很少头脑发热，急不可耐，将自己的命门暴露在敌人手中——这一点是非常让人钦佩的。之所以出现这样的情况，与其说是曾国藩会打仗，倒不如说是他具备战争的素质——每当危险来临的时候，曾国藩总是变得像一条蛇一样更警觉、更缄默、也更冷峻。虽然他有时候表现得十分焦躁，但他总是全力控制自己的情绪，尽力使自己像冰一样冷静，像竹子一样坚韧。这样的性格造就了他与他的军队始终有一种坚忍不拔的特质。敌人在这样的对手面前，往往会望而却步，经常性地陷入气馁之中，无法产生胜利的自信。