然而，白崇禧不甘心。为了党国的存亡（实则是桂系的利益）、半世的声名，他也不甘心。他要与解放军全力一搏。几十年军旅生涯使他树立起一个信念：只要坚持下去，时间一久，任何形势都可能逆转。基于这种想法，白崇禧将其26个师20万主力部队，分别部署在衡宝公路两侧和粤汉铁路衡山至郴州一线。企图依托湘江、永乐江和资水，背靠滇、桂、黔，与广东余汉谋集团组成“湘粤联合防线”，同川湘鄂边绥靖公署宋希濂集团相呼应，阻止解放军向广东、广西推进。
是时，第四野战军指挥部设在汉口，四野各兵团主力部队均已移师湖南境内和湘赣边。萧劲光率领的第十二兵团（先遣兵团名义已取消）指挥部进驻长沙。第十二兵团官兵大部分是北方人，初到南方，水土不服。加上正值盛夏，蚊虫成群，又连续征战，食宿无规律，部队病号急剧增加，马匹也大量发病、死亡。据统计，有的军两个月中病员就达13000多人，死亡130人，有的连队官兵发病率高达25%，甚至50%。根据这种情况，四野首长经请示中央军委同意，决定部队原地休整一个月。部队休整期间，萧劲光组织部队开展了一个“兵强马壮活动”。他强调：“兵强马壮才能战无不胜。要把治病强身当战斗任务对待！”
9月1日，第十二兵团休整结束，中央军委向四野下达了歼灭白崇禧、宋希濂两集团的作战任务。据此，四野司令员林彪、政委邓子恢研究决定，发起“衡宝战役”。
衡宝，是衡阳与宝庆的简称。衡阳位于湖南省南部南岳衡山的南麓，系湘江中上游的分界地，湘南重镇，京广和湘桂铁路在这里交汇；宝庆（今邵阳市），在衡阳以西约100公里处的资水之滨，是湖南中南部工商业和交通中心。在地理位置上，衡宝一线是中华腹地至两广、特别是桂系老巢广西的最后一道防线。所以，毛泽东于7月份就致电林彪等四野首长：“应采远距离包围迂回方法”，掌握主动权，“完全不理白部的临时部署，而远远地超过他，占领他的后方，迫其最后不得不和我作战”，力争将其歼灭在“湘南即衡州以南”。遵照这一指示，林彪、邓子恢将四野主力和参战的二野部队，组成东、中、西三路大军，向白崇禧部队展开大钳形包围：东路（又称左路）军由邓华率领的第十五兵团和第二野战军第四兵团组成，由第四兵团司令员兼政委陈赓统一指挥，绕道南下直取广东，切断敌人海上逃路；西路（又称右路）军为程子华、萧华率领的第十三兵团，取道源凌，配合正面部队围歼衡宝地区之敌，尔后进军广西，切断敌人逃往云（南）贵（州）之路；中路军由萧劲光指挥，其任务是向衡宝地区国民党部队进行正面攻击，在东西两路大军的策应配合下，歼灭白崇禧集团。
最后的防线，必有拼死一搏。为集中兵力将白崇禧集团聚歼，经请示军委同意，林彪着意加强了中路军兵力。除第十二兵团的第四十、第四十一、第四十五、第四十六和第十三兵团之第四十九等五个军全部投入战斗外，第二野战军由杨勇率领的第五兵团也协同作战，其第十八军归萧劲光指挥，另两个军作为战役预备队。这样，萧劲光直接指挥的参战部队便达6个军19个师。
9月13日，东、西两路军先行拔寨起兵，分别按照部署线路英勇挺进。两天后，即15日，中路军各部也开始向指定地区运动。萧劲光心里清楚，几大战役打下来，蒋介石的所谓“王牌”军已差不多丧失殆尽，但桂系主力损失不大，白崇禧的部队是有战斗力的。要想克敌制胜、减少伤亡，必须做到两条，一是集中优势兵力，二是出其不意出击。为此，部队出发前，他再次召开军以上干部会议，作了周密的研究部署，明确指示，各部队务必做到行动隐蔽，严格保密。据此精神，驻长沙、平江地区的第四十一军伪装成地方部队，一路行来“内紧外松”，取捷径向娄底、谷水前进；第四十五军借助二野过境部队的掩护，由江西萍乡进至湘乡；第四十军则由攸县折向西北，隐蔽地向湘潭以南前进；原驻湘江西侧的第四十九军，严密警戒衡宝公路正面的敌人，封锁消息，保障以上各部顺利渡过湘江。而进军安仁地区的第四十六军，则张开旌旗，直赴大路，虚张声势，给敌人以解放军主攻方向在衡阳、耒阳一线的错觉，以掩护正面突击部队运动，实现声东击西的战役目的……
10月1日，是新中国诞生的大喜日子。在这一特大喜讯的鼓舞下，解放军参加衡宝战役的官兵们个个斗志倍增，纷纷表示要聚歼白崇禧部队，以实际行动向新中国献礼。翌日一早，西路军占领芷江，站稳了脚跟；东路军主力在湘粤赣边挺进广东，进展顺利。获悉情报，萧劲光当即下达命令：正面部队于下午4时发起攻击。
2日傍晚，天飘起小雨。已按部署集结待命的中路军各部在夜色雨幕的掩护下，兵分三路向衡宝地区白崇禧部队发起猛烈攻击。经过一夜激战，中路军顺利突破了白部第一线防御阵地，迫使守敌第七十一军各部慌忙后撤。萧劲光指挥部队乘胜向纵深猛插，撤守不及的白军悉数被歼。
4日一早，雨仍下个不停，道路泥泞，行走艰难。这对重武器多而相对兵员少的白崇禧部队是极其不利的。萧劲光遂火急致电兼任第四十五军军长的兵团副司令员陈伯钧：
（一）你军前进方向敌兵力薄弱，阻力不大，对你军迅速前进有极大方便。如衡宝路小岭口、演陂桥段有敌阻击时，则留一部包围监视，准备待四十六军到后攻歼之。你军主力仍取捷径向洪桥（祁阳东北）急进、猛进，切断湘桂。在前进中应发扬强行军完成任务精神。四十军一一九师卅余小时前进一八0余里，仍能攻歼敌人。
（二）四十六军紧跟四十五军后前进，接替攻歼衡宝路之敌。
接着，又给第四十一军、第四十九军、第四十军等部一一发电，做了具体战斗部署，同时向林彪等四野首长发报，报告了作战方案。
当晚（4日），第四十五军第一三五师占领水东江。该师第四○三团从缴获的一份批件上获知，国民党军翌日有一批物资进水东江交通枢纽转运站。团长不由一阵欣喜，当即要通电话：“运输队吗？现在形势紧张，部队马上要转移。明天那批物资要连夜送过来，——对，天亮前！”果然，敌人运输队乖乖送来八车白面和一批军服。可谓雪中送炭！消息报到兵团指挥所，面对连日阴雨正为先头部队补给焦虑的萧劲光，不由眉头一展：妙，太妙了！
5日拂晓，中路军各部向前推进十几公里，控制了渣江至界岭一线阵地，与白崇禧集团形成对峙。解放军三路大军的布局态势，使白崇禧真切看到了现实威胁。为争取主动，他采取以进为退的策略，急令装备精良最富实力的桂系第七军，即所谓“钢七军”，沿衡宝公路向界岭攻击前进，另调乐昌、郴县、耒阳诸军，乘火车北上。这样以来，加上原在衡宝线的部队，在全长不到200公里的衡宝公路上，白崇禧一下子集中了13个师的主力部队。很显然，他企图乘解放军中路军部队立足未稳，进行全面反击。