1854年（咸丰四年）4月，左宗棠再度进入湘幕，此时正值长沙危急。左宗棠惦念家人，就亲自带领100名楚勇回到湘阴，将家人护送出山。后太平军派了30余人到梓木洞搜寻，但是左宗棠和家人已先走一步。他自己已经回长沙，家眷由勇丁送到湘潭，27日晨到达县城，因太平军已逼近湘潭，他们立即转到辰山周氏家中暂住。当他们离开湘潭县城不到一个时辰，太平军就蜂拥而至，翌日攻占了县城。
那时长沙上下数十里都是太平军，长沙处于包围之中。守城部队主力是新建的湘军，统帅是在籍侍郎曾国藩。
曾国藩字涤生，湖南湘乡人。嘉庆十六年（1811）生，家中世代以务农为生。从祖父玉屏公开始读书，父亲麟书公是一名秀才。曾国藩于道光十八年（1838）中进士，二十三年任检讨，典试四川，后转为侍读，迁内阁学士，不久任礼部侍郎，署兵部侍郎，可谓官运亨通，少年得志。他是一位博学多才的人。在京师时与倭仁、何桂珍等师事大学者唐鉴，治义理之学；又与友人梅曾亮等为辞章考据。他文学优长，师宗桐城派古文家方苞、姚鼐，在当时朝野已十分有名。咸丰二年（1852）因母去世“丁忧”回家，恰逢太平军从广西进入湖南，旋又攻占武昌。清朝廷派去镇压的满人将领钦差大臣赛尚阿和副都统乌兰泰等屡战屡败，于是想起了起用汉人。他们第一个选择了在籍侍郎曾国藩，因为正规军八旗和绿营已失去战斗力，湖南兵单势危，咸丰二年（1852）年底下旨命曾国藩帮办团防。曾国藩欣然接旨，他认为现任营官不可用，便起用了一批书生，大多是秀才或童生，如罗泽南、罗信南、王錱、彭玉麟、杨载福等。最初从农民和市井中招募了500名勇丁，经过一年多的训练和实战，人员不断补充，他办的团练已逐渐壮大，成为一支能与太平军抗衡的力量。这就是近代史中著名的湘军。
咸丰四年初，湘军总兵力已达万余人：陆军13营，约5000余人；水师10营，约5000人；战船240艘，坐船230艘。曾国藩原在衡州练兵，长沙危急，他率领水陆各军万余人驰援长沙。陆军由塔齐布和罗泽南率领，水军由彭玉麟、杨载福等率领。
湖南地处长江中游，与太平天国的军政中心天京有三省之隔，在一般的情况下，长沙不会成为与太平军作战的主战场。但这一时期的湘军正转战于江西、湖北、安徽，湖南的稳定对支持湘军、稳定军心具有十分重要的作用。左宗棠作为湖南巡抚的军师，对湖南的这种战略地位有一个比较清醒的认识，并基于这种认识制定了一套对抗太平军的正确的战略方针。这套方针的核心就是以攻为守，积极组织出省作战，将太平军拒之于湖南省境外。即使太平军已经攻进湖南，也要以积极的进攻来迫使它撤出。左宗棠制定这种方针，首先是替湖南地方利益着想，同时它也有利于清政府对太平军作战的大局。因为牢牢地控制住了湖南，也就稳住了湘军的战略后方基地，这对于主战场战局的发展是非常重要的。正因为如此，左宗棠的这种主张不仅得到了湘军大员曾国藩的认可，也得到了清朝统治阶级的赞许。
1854年（咸丰四年）4月24日太平军占领湘潭后，曾国藩由岳州前线回到长沙，召集各级将领讨论用兵方略，这时，很多人都主张要先夺回靖江，而左宗棠却独自主张救援湘潭。最后，曾国藩采纳了左宗棠的意见，派遣塔齐布率陆军4000人驰赴湘潭，杨载福、彭玉麟率水师五营增援；同时，自己也亲率战船40只，兵丁800人，进攻靖港。
4月28日，靖港之役结束，曾国藩惨败之后率领余部退回长沙。在经过铜官时，曾国藩羞愤难已，竟两次投水自尽，都被部下救起。抵达长沙之后，左宗棠在一清早就来到湘江船上看望曾国藩，见曾国藩十分狼狈颓唐，衣服上还沾染泥沙痕迹。左宗棠责备他说：“现在大事尚可为，不应该为一次挫败就寻死。”曾国藩睁大了眼睛，一言不发，只叫从人将纸笔拿来，将所存的火药、子弹、军械数目详细写下，嘱左宗棠代为保管。那时他的意志还没有完全恢复过来。
其实这个时候，湘潭的捷报已经传到长沙：5月1日，塔齐布、杨载福、彭玉麟等统率的湘军主力，在经过8天的苦战后攻占湘潭。太平军受到重挫，被迫北撤，解除了太平军对长沙的威胁。这是湘军出师以来的第一次大捷，对于稳定刚刚经历了靖港惨败的湘军和巩固清王朝在湖南的统治无疑是一剂强心针，也使得颓靡不振的曾国藩得以复苏。
曾国藩初次领兵，还缺乏经验，手下人才又不多，这次战败后，深受教训，认为兵不在多而在精。于是他裁撤了部队中老弱无用者，只留下精壮5000余人，并上奏自请处分。布政使徐有壬和按察使陶恩培本来就讨厌曾国藩，也趁机要求骆秉章奏劾他，并遣散湘军，但是骆秉章没有同意。朝廷因湘潭大捷，不仅没有责备曾国藩，还提升塔齐布署湖南提督。
靖港的太平军得知湘潭大败，就退回岳州，不久又攻陷常德。陆路的太平军绕过江西的萍乡、万载与湖北通城的军队会合，准备再度南下。左宗棠建议骆秉章，奏调胡林翼督赵启玉各军进击常德；江忠源军由平江挺进通城；塔齐布和罗泽南二军在新墙会合，待机北上。曾国藩也率领湘军水师和两广增援的水师由长沙驶抵岳州。不想水师遭到太平军的伏击，打了一次败仗。广东水师统领陈辉龙、湘军水师营官褚汝航等阵亡。但是塔齐布和罗泽南的陆军打了胜仗，太平军秋官又正丞相曾天养阵亡，韦志俊等率余部退回武昌。岳州为清军收复，不久，江忠源军又收复通城。这样，太平军已全部退出湖南，他们攻占湖南的计划再次受到挫败。
左宗棠看到家乡已平靖，“保卫桑梓”的任务已告一段落，就向骆秉章提出辞呈，仍要回乡隐居。骆秉章不允许他辞职，曾国藩也再三慰留。可见，他的隐居初衷到这时还没有绝念。
7月后，湘军进至岳州与太平军相对峙。8月，太平军因与湘军连战不利，退出湖南，回守武汉。
湘军的胜利，证实了左宗棠以攻为守的方针的正确性，也增强了他对曾国藩及其湘军的信心。此后，左宗棠坐驻长沙，忙于为湘军增造战船，补充给养，为湘军出省作战提供后勤保障。
1858年（咸丰八年）8月至1859年初，在左宗棠的策划下，经过一系列军事行动，湖南境内基本上没有了太平军主力的活动，但各属会党起义却此起彼伏。特别是毗连两广的湘南一带，两广会党与湘南人民起义相结合，声势更大。每一股多则或数千，或万余，少则也以千数百计，而都以应援江南大股太平军为名，红衣黄巾、效其装束，同时并起，十分猖獗。
面对这种局势，左宗棠又协助骆秉章，依靠王錱、刘长佑、江忠济等所部湘勇、楚勇，以及以陈士杰为代表的各州县团练，对各地会党和人民起义进行了严酷的镇压。事后，左宗棠自己也曾说，他自咸丰二年入湘幕起，八九年来，所诛斩的真匪有3000余，很少冤滥。而一向勾连黔粤的烟、盐各枭雄，及会匪、斋匪，有名迹者，也很少有漏网的，由此可见其镇压是何等的残酷和彻底。
1859年（咸丰九年）3月，石达开带领的太平军由江西大举入湘，接连攻下宜章、兴宁（今资兴）、郴州、桂阳州等州县，“人马行六昼夜不绝，湖南大震”。这时，骆秉章将战守事宜委托给左宗棠，“宗棠调兵遣将，急于星火，一月内成军4万人，湘防得以巩固”。5月7日，石达开攻打宝庆（今邵阳市），6月大合围，连营百里，号称30万大军。军事形势非常危急。
左宗棠自出幕以来，都是作为军师在调兵遣将，似乎觉得他不能直接带兵，亲临前线打仗。在石达开率大军围攻宝庆、军情危急的时刻，他要求亲临前线协调指挥，这种勇气是值得赞许的。骆秉章以左右无人，坚决不让他远去。刚好这时胡林翼从湖北遣李续宣率5000人回湘救援。于是议定由李续宣赴前线督率各军。李续宣与骆秉章、左宗棠等共商进兵方略。左宗棠先期获得赵焕联从宝庆围城中递出的敌我兵势地形详图，根据实际形势分析，主张由北路突破。7月下旬，双方展开多次激战，太平军伤亡万余人，西、北两路阵地全失。8月13日，清军分三路大举出击。14日，石达开军分两路撤围南下，经东安进入广西境内，宝庆得以解围。
至此，左宗棠“内清四境”的先期目的算是达到了，但是，他二度出山，并不仅以保护“桑梓”为满足。从进入张亮基幕开始，他就以剿灭贼匪为己任，把镇压以太平天国为中心的人民起义看成自己的神圣职责。进入骆秉章幕后，随着太平军的东下和四邻会党的活动，他又与郭昆焘等“力定越境剿贼之计”。在他们的筹划之下，湖南除大力支援曾国藩率领“东征”的江南大军之外，又屡兴援鄂、援赣、援桂、援粤、援黔之师，不断地援助这五省的剿匪大业。
太平天国定都天京后，江西成为两方争夺的主要战场之一。1855年（咸丰五年）11月，太平天国西征军连克瑞州、临江、袁州，进围吉安，江西形势紧急万分。左宗棠得到骆秉章的同意后，大举援赣。清政府仅令湖南筹拨兵勇2000人赴援，左宗棠恐未能取胜，令增募兵勇至5000人。1856年（咸丰六年）3月，援赣大军在刘长佑、萧启江率领下，分由醴陵、浏阳进萍乡、万载。以后又多次派兵增援：5月，刘腾鸿军由湖北援瑞州；7月，曾国荃、周风山军自湘南取道安福趋吉安；次年5月，更调王錱、江忠义所部大军赴援临江等地。直至1858年（咸丰八年）9月，攻取太平军在江西的最后一个据点吉安。总计，援赣各军陆续增加，水陆勇丁增至19000多人，三年以来，湖南援赣的军饷及协济江西之饷银已达2915600余两。先后攻陷萍乡、万载、袁州、临江、瑞州、建昌、上犹、永新、吉安等20多个府、州、县城。在这个过程中，左宗棠运筹帷幄，费尽心机。
广西是太平天国起义的策源地。太平军主力出境后，广西会党起义仍连绵不断，声势浩大。1857年（咸丰七年）5月，会党起义军攻占柳州，进围桂林。左宗棠认为：广西起义军人数甚众，而该省无力对付，拖延一定的时日后，势必影响湖南。因而与骆秉章确定援广西之策，令蒋益澧募练乡勇1500人，隶以段莹器所部1000人及江忠漕所部1200人，开赴广西。同年8月，复遣黄辅鼎、萧荣芳率800人出恭城增援。先后攻陷全州、兴安、平乐。骆秉章并奏准月助蒋军饷银两万两，增造战船，募水师，自长沙造船60余艘，火药7万余斤，以益其军。1858年（咸丰八年），蒋益澧率军入屯桂林，攻占柳州。1859年（咸丰九年）8月，石达开大军由湖南入广西，复围桂林。广西巡抚曹钟澍向湖南求援。骆秉章与左宗棠遣刘长佑、萧启江率大军往援。10月，解桂林之围。