长沙整军后，曾国藩信心十足，准备向新败的太平军西征军发动攻击。西征军曾天养部闻湘潭大败，恐湘军乘机进攻被太平军占领的沿江诸城，乃由宜昌东进，经澧州、安福，收集湘潭溃军。林绍璋败后，经靖港、岳州，亦收罗残军，向西进的曾天养靠拢。行至常德，闻曾天养已东进来援，遂留驻常德。不久，两军会合，一起转回岳州，高垒深壕，准备与湘军决战。
曾国藩闻知太平军在岳州加强了防务，先命塔齐布7000人马迅速赶至岳州城下，让罗泽南、周凤山率军为后援。咸丰四年六月三十日(1854年7月24日)，两军会战，太平军失利，连夜弃岳州退守城陵矶。
城陵矶是长江通洞庭的一个极险要的军事要塞，易守难攻。太平军占领城陵矶，湘军几攻未下。七月十六日(8月9日)，湘军水师褚汝航、夏銮、清军登州镇总兵陈辉龙、游击沙镇邦等飞舟顺水乘风攻至城陵矶，江风呼啸，清军水师突入太平军的防守圈内。太平军奋勇冲杀，湘军水师指挥失灵，进退两难，被动挨打。结果，湘军惨败，褚汝航、陈辉龙、沙镇邦、夏銮4人皆被打死，水师丧失大半，战船数十只或沉或降。后队杨载福赶来，水师已溃不能战，只得退回岳州。
七月十八日(8月11日)，湘军陆师塔齐布进攻城陵矶，曾天养率军抵抗，两军展开前所未有的恶战。塔齐布与曾天养都是两军中的善战拔尖人物，他们指挥的军队都不怕死，两军殊死冲杀，各不相让。恶战之中，曾天养与塔齐布突然相遇，他拍马挺枪与之交战，塔齐布毫不示弱，二人马去枪还，犹如古战场上的两员猛将，杀得两边兵将直了眼。
曾天养在太平军中，威名赫赫，他是广西壮族人，参军时已五十余岁，骁勇异常，屡战皆捷，被誉为“飞将军”。所部称“虎头军”，因功封为秋官正丞相，为太平军西征军主要将领。西征以来，率兵攻克江西南昌、丰城、瑞州、饶州、乐平、景德，安徽东流、建德、集贤、桐城、舒城，在庐州击毙江忠源；转战湖北，克黄州，破吴文镕部，又连克汉口、汉阳，取孝感、云梦、德安、随州、安陆、宜昌；继援湖南，克澧州、常德。曾天养有勇有谋，虽年已六十，但每战必身先士卒，武艺精湛，无人能敌。
然而，城陵矶之战，遇上塔齐布，也算碰上了强敌。塔齐布是湘军第一员猛将，善于骑战，精于马术，他是满洲镶黄旗人，依然保持着入关时那种剽悍的气质。
二人激战多时不分胜败。曾天养怒睁豹眼，越战越勇，突然一矛刺中塔齐布战马，一个颠扑，塔齐布几乎摔下马来。塔之亲兵在同一瞬间，从曾天养背后猛刺一枪，曾天养猛一回马，其坐骑即被刺中，马蹶人倒，被塔齐布挺矛刺中，壮烈牺牲。
曾天养的牺牲，是太平天国的重大损失，西征军闻知皆痛哭失声，为之“茹斋六日”，洪秀全追封他为烈王。城陵矶主将牺牲，顿失斗志，只好败退武昌。
城陵矶战后，曾国藩指挥水陆并进。水师连陷嘉鱼、金口，湘军将士扬眉吐气，逢阵皆露立船头，不披甲胄，不避枪弹，一路杀来，直达武昌城南数十里下泊。陆师从岳州出发，经蒲圻、咸宁、山坡、纸坊，直达洪山一带。
水师达金口时，曾国藩召集众将，议攻城之策。罗泽南提出，陆路分兵两路，一路攻洪山；一路攻花园。他说，花园的太平军有精兵两万，设有三座大营，若攻其洪山，花园太平军必起而援助，罗泽南自任前锋，先攻花园，余兵扼堵洪山，协其攻克花园，武昌即成为孤城。曾国藩同意了他的计划。
咸丰四年八月二十一日(1854年10月12日)，罗泽南挥军进攻花园，太平军凭借临时搭起的木城，架炮轰击，罗军伏地前进，待攻至木城前，太平军竟溃乱而逃。罗军乘势夺取了数十条大船，连续攻克了三座大营，两万太平军几乎不战而溃，第二天，继攻鲶鱼套，经过小战，也轻易取得。花园太平军溃败，塔齐布率军攻洪山，洪山守军坚决抵抗。得知花园溃败，此路太平军知不能守，也纷纷退避。塔齐布下令攻击，太平军多跳湖奔逃，降者千余，洪山亦克。
湘军兵临武昌城下。
太平军武昌守将为黄再兴、石凤魁、韦以德等人，或则文员，或则国宗，皆不习战事。当曾天养牺牲，湘军水陆北上达金口时，国宗韦以德首先逃离武昌。太平军在武昌城的守卫部队尚有千余战船，陆师万人以上。但黄、石等人无指挥之才，官兵也悲观失望，在太平军失陷花园、洪山的第二天夜里，便弃城逃走。长江上游最重要的重镇武汉，就这样轻易地丢给了湘军。
石凤魁等人是在少量守护部队的保护下私逃的，汉水里的大批船只、数千水军及城里的守卫部队皆未得到撤退的消息。天一亮时，湘军攻城，城里的守将早已逃跑，守军大乱。湘军登上城墙，打开城门，一捅而入。
凶猛的湘军逢人便杀，太平军尸横满街，血水成河。被禁闭在汉水里的船队遭到湘军的猛烈射击，或被射杀，或被赶入水中淹死，水师受到毁灭性打击。
曾国藩于当日在诸将官的拥护下进入文昌门，见到这湖广第一名城已为自己收复，心里感慨万端。
武昌被攻占的第七天，湖广总督杨霈向咸丰报捷。又过了6天，曾国藩才详细地向咸丰奏报了湘军进攻花园、洪山及攻克武昌的战况。
咸丰闻报，高兴得比曾国藩还要厉害。他简直不敢相信曾国藩一个文员，率领编练不足一年的湘军，竟把武汉攻克，收复两湖大部失地。看过奏报，立即下旨，任命曾国藩为湖北巡抚。他兴高采烈地向大臣们说：“不意曾国藩一书生，乃能建此奇功！”还在谕旨中表示：“获此大胜，殊非意料所及。朕惟兢业自持，叩天速赦民劫也。”
随后，又下旨封赏湘军将领。胡林翼升为湖北按察使，罗泽南为浙江宁绍台道，彭玉麟为广东惠潮嘉道，杨载福擢常德协副将，鲍超升为参将，李元度、李续宾、郭嵩焘、刘蓉、陈士杰等人都有升迁。
正当大家兴高采烈，喜庆荣升之时，又一道上谕弄得众人晕头转向。在收到授曾国藩署理湖北巡抚的第七天，曾国藩跪听的又一个上谕是：“曾国藩著赏给兵部侍郎衔，办理军务。毋庸署理湖北巡抚。陶恩培着补授湖北巡抚，未到任之前，湖北巡抚着杨霈兼署。曾国藩、塔齐布立即整师东下，不得延误。”咸丰帝还在曾国藩的奏折上批道：“朕料汝必辞，又念及整师东下，署抚空有其名，故已降旨令汝毋庸署理湖北巡抚，赏给兵部侍郎衔。”还怪曾国藩的奏折不署加封的官衔(即署湖北巡抚衔)，故说是“违旨之罪甚大，著严行申饬。”
上谕改变了初衷，收回署理湖北巡抚的旨意。曾国藩本来就是侍郎，上谕又说“赏给”，纯是空头人情，曾国藩的官职丁点未动，还落得个“严行申饬”。更让曾国藩恼怒的是，署理湖广总督杨霈未有寸功，却因武昌收复而实授总督，一直与曾国藩作对、反对编练湘军的原湖南按察使、新授江苏布政使陶恩培竟实授了湖北巡抚之职。
是何原因？上谕解释，因曾国藩立即要率师东下，“署抚空有其名”。然而，当时清军、湘军中的授衔，哪个不是“空有其名”呢？所以，还是令人费解。究其原因，咸丰帝是在遵奉大清祖训，即不肯把地方督抚大权交给手握兵权的汉人控制。此后，曾国藩率军艰苦奋斗，仗越打越大，声名越来越高，清政府对他也越来越不放心。使他在若干年内，处于客军虚悬之地；以后虽授以地方大员之位，仍是不断发生龃龉，对他游移不定，甚或加以打击，使曾国藩左右为难，进退维谷，甚是尴尬。
曾国藩攻取武昌后向咸丰皇帝奏报了下一步的作战计划，即采取稳扎稳打、步步为营的推进方略，先经营湖北，再以两湖为基地，进取江西、安徽，步步逼向太平天国的大本营南京。眼前需要休整部队、补充兵员、调集粮饷，作好再度战斗准备。曾国藩提出，太平军的主要兵力部署于长江两岸，实力并未根本丧失，湘军虽取得武昌城，若全军东下，失去后方供应，必然陷入困境，造成难以估计的后果。但是，咸丰皇帝却拒绝接受曾国藩的正确意见，下旨令湘军立即东下，曾国藩不敢违旨，只得提兵东下，果然陷入了军事困境，几乎全军覆没。只是在东进的第一仗——田家镇一战再次取得胜利。
当武昌失守消息传至天京(即南京)，使太平天国领导人洪秀全、杨秀清等甚为震动，送下令锁拿黄再兴、石凤魁，押回天京。令燕王秦日纲前往田家镇布防，迎击湘军的东进。
秦日纲率领3万人马西上，行至湖北蕲州，召集各地的军队和自武昌败退的军队。不久，石祥祯、韦俊、林绍璋、石镇仑、周国虞等部皆到达蕲州。武昌败退的军队，也陆续到达万余人。秦日纲在蕲州召开军事会议，商量战守事宜。大家都认为，湘军占武昌，势必东进，犯天京。但湘军水陆充其量不过3万人，而且连连战斗，未得休整；太平军目前集于蕲州者已过5万人；从蕲州至武穴，关隘甚多，充分加以利用，正是歼灭湘军的大好时机。
韦俊、周国虞等进一步提出：蕲州、武穴之间有一险镇名曰田家镇，位于长江北岸，隔江相对的是半壁山。此处江流湍急，地势险要，在此布置人马，是歼击湘军的好去处。最后，秦日纲决定让检点陈玉成率军驻守蕲州，其他诸军全部驻守田家镇，准备在此全歼湘军。
正如太平军诸将所分析的那样，田家镇的确是武昌以东的军事重镇。该镇是一个有5000人口的大集镇，商贾繁盛。对岸的半壁山，孤峰雄立在大江南岸。山下一条大道，通往瑞昌；山南麓有一条发源于幕阜山，流经通山、兴国的富水，在此注入长江。入江之处是富池镇，下走30里，便是武穴。咸丰三年一月(1853年2月)，太平军在此大败两江总督陆建瀛，如今主客易位，太平军要在此阻击湘军。
秦日纲率领4万人马赶至田家镇，侦察之后分兵两处。秦日纲、石祥祯率两万人马驻守田家镇，韦俊、石镇仑、周国虞等率两万人马守卫半壁山。
韦俊等来至半壁山，对防守进行了精心安排。韦俊、周国虞等将领皆非泛泛之辈，韦俊是北王韦昌辉之弟，又名韦志俊、韦十二，年方28岁。太平军起义初，随兄起义。他虽是国宗，但学问、见识都很高，打起仗来也颇英勇、果敢。自起义以来，参加了许多次恶战，表现突出，战功卓著。湘军成军后，与之进行了几次战斗，知湘军非绿营军可比；曾国藩等将领也非一般清朝官吏，对他们不能掉以轻心。这次作战，他是半壁山两万兵马的主将。他让石镇仑率军8000人至半壁山脚安营，林绍璋率5000人驻守富池镇，周国虞率6000水军扼守江面，自己率其余兵马扎营半山腰，总领半壁山战场。他向部队下了死命令：掐死湘军水陆去路，绝不许后退。
韦俊、周国虞等还怕挡不住湘军水师，提出可在江面上设一道拦江铁锁，以阻湘军的战船。他们也知当年东吴阻挡晋军、后晋阻挡后汉，都用过铁锁挡江之法。然而，铁锁如何架法？为什么当年吴、晋的铁锁又未锁住大江？唐代大诗人刘禹锡《西塞山怀古》，悼念当年吴国在田家镇的上游黄石设拦江铁锁，还是被晋国大将王浚打破，落得“千寻铁锁沉江底，一片降幡出石头”。最后大家认为，战守之具全在运用，没置拦江铁锁，用以阻挡湘军水师，绝不会出现“金陵王气黯然收”的那种下场。
太平军里有的是铁匠、木匠，周国虞等人找他们来一同商量。大家七嘴八舌做出了决定：做成6根大铁锁，南拴半壁山，北系田家镇，横截大江江面。锁下每隔10丈安一只大船，首尾以大锚固定，铁锁也固定在船上。每隔3只大船再设一个大木排，承受铁锁的压力。按此计议，周国虞布置铁匠打锁、木工造排，10天以后半壁山6道拦江大锁造成，像6根玉带，捆住了滔滔大江。
北岸田家镇的布防与南岸半壁山大体一致。
咸丰四年九月十三日(1854年11月3日)，湘军水陆从武汉出发，分兵3路东进。湖北军在固原提督桂明的率领下，沿江北岸推进，为第一路；湘军水师顺流而下为第二路；湘军陆师沿南岸前进为第三路。湘军陆师离开武汉后又分为两支：塔齐布一军经武昌县进攻大冶，罗泽南一军经金牛堡进攻兴国，两地取胜后，合军进攻半壁山。
曾国藩亲自指挥水师沿江东下，经葛店、黄州，于第三天到达道土洑。接到前军探马报告：前站是蕲州，有太平军陈玉成守卫，水陆号称万人，主要是陆师，仅少量水师。湘军前锋塔齐布现达金牛镇，听候进军命令。
曾国藩与彭玉麟、杨载福、刘蓉、郭嵩焘等研究之后，下令塔齐布与罗泽南分别进攻大冶和兴国，引诱陈玉成援救，水师趁机冲过蕲州。
塔、罗两军接到战令，立即向大冶和兴国发动进攻。陈玉成果然亲率4000人马援救兴国与大冶，而塔、罗兵进神速，不待陈玉成赶到，已分别攻下两地，合军向半壁山前进。
曾国藩知陈玉成率兵援救兴国与大冶而去，先是企图一举攻下蕲州城，结果进攻几次皆未成功，遂改变策略，采取越寨攻敌之策，舍弃蕲州而不攻，顺流直驶田家镇。杨载福的先锋营首先到达田家镇，猛然看到江面上有黑黝黝的6根大铁锁拦在江面上，铁锁后面布置着太平军的水师。杨载福明知铁锁难过，急令后撤，太平军水师大炮齐轰，几条战船被打伤，许多湘军士兵落入江中。
曾国藩也无过锁之策。他发出命令，先让陆师进攻半壁山，或能夺得半壁山，从岸上除掉铁锁，水军开炮，为陆军助战。
罗、塔两军依令分别攻打半壁山和富池阵。太平军依险顽强抵抗，湘军先有武昌之胜，打起仗来也格外勇敢。经一天激战，双方死伤很重，罗军方攻下山脚的营盘，太平军退回山上。塔军经两天激战，攻下富池镇。第二天，秦日纲、韦俊亲自指挥，反攻湘军，血战竟日，太平军大败，退回对面的田家镇，半壁山战斗结束，这天是十月初七日(11月26日)。
这时，湘军水师也部署了破坏江上铁索的计划。彭玉麟、杨载福指挥战船，集中火力轰击太平军的江面水师，同时轰击铁锁下的船只和木排。在强大火力的掩护下，湘军驶出一队船只，分别驶至铁锁之下，以巨锅盛满油脂，置于船上，将大铁锁烧红，用巨斧砍断。
太平军见湘军欲断铁锁，水陆两军同时出战，拼命阻挡。战斗在江面和两岸同时进行，异常激烈。烧锁的湘军船只多次被炮火击中，巨锅里的沸油烧着了战船，另一只燃油的战船再冲上去，继续烧锁。
此时，占领半壁山的湘军，利用山上大炮轰击江面上的太平军水师。
十月十三日(12月2日)，拦江铁锁被焚断，湘军水师攻过田家镇，沿江焚烧太平军的战船，被毁达4500余只，长江江面，一片火海。太平军西征的战船不下万艘，经湘潭、岳州、武汉、田家镇几战，九江以上的战船荡然无存，水师大体瓦解。
田家镇一战，太平军水陆大败，伤亡巨大。于十月十三日(2月3日)退向黄梅。十四日(4日)，蕲州守军也败退广济。湘军陆师尾追至黄梅与广济之间的双城驿，两军再次交锋，太平军再败，退向九江。