中原和华东野战军从11月23日开始，经过18天紧张而激烈的战斗，分别包围了黄维兵团和杜聿明集团，并予以沉重的打击，但这两股国民党军拼死顽抗，仍企图向南突围。解放军全歼该敌尚需一定时日。此时由蚌埠北援之敌第六兵团在第八兵团的策应下，已推进到余家集、包家集以南地区，距离双堆集仅70余里，从华中白崇禧集团中抽调的第二十、第二十八军已陆续到达浦口，估计12月15日前后可以到达蚌埠地区。此外，国民党正在上海集中待命的数十艘船只，有可能突然北上接走平、津、塘、唐地区的蒋系各军，转用于徐蚌战场。针对这些情况，总前委为争取战役主动，经中央军委批准，决心首先集中中原野战军主力，并使用战役预备队华东野战军第七、第十三纵队及特纵炮兵一部，先歼灭黄维兵团。华东野战军主力则围困杜聿明集团。另以华东野战军第六纵队，并调中原野战军第二纵队及豫皖苏、豫西军区5个团和渤海纵队1个师，统归华东野战军第六纵队司令员王必成、政委江渭清指挥，担任阻击李延年、刘汝明两兵团的任务。
此时，刘峙、杜聿明正按照蒋介石“南北对进”的命令，以李弥兵团守徐州，以邱清泉、孙元良两兵团从11月25日开始沿津浦路东西两侧向南攻击前进，以接应黄维。但他们遭到华东野战军阻援部队的顽强抗击，至11月28日各兵团仍滞留在孤山集、后官桥、四堡、褚兰以北地区，再也无法前进。
而由蚌埠、固镇北进的李延年、刘汝明两兵团，发现华野一部主力南下，惧怕被歼，慌忙由花集庄、龙王庙、任桥地区南撤。
华野五纵迅速追击，歼灭李延年兵团第三十九军后尾两个团于曹老集地区，吓得李、刘两兵团星夜逃往淮河以南。至此，蒋介石策划的3路会攻宿县，打通津浦路的计划便彻底破产，黄维兵团在双堆集包围圈内也就越陷越深，不能自拔。
第十二兵团被围于双堆集狭小地区，解放军四面围攻，包围圈日益缩小，粮弹俱缺，仅靠空投，大量伤员只能收容于地下壕坑；兼之日夜战斗，伤员枕藉。每当空投补给时，一部分补给品落到解放军阵地，其降落于蒋军空投场附近地区者，各军自行抢收，甚至因抢夺而相互开枪。由兵站分监部收集到的补给品，分配时则又争多争少，吵闹不休，陷于一片混乱。
包围圈中正常秩序已渐难以维持，各军、师的后方勤杂人员成群结队进入村庄，凡是可以吃用的东西，甚至连屋顶上的茅草也都被拆得精光。为寻觅老百姓埋藏在地下的粮食器物，到处乱挖，地皮不知被翻转了多少遍。
1948年10月底，第十二兵团集结在驻马店地区时，兵团副司令官胡琏以其父病危（旋即病故）和自己牙病，请假赴汉口探亲和就医。兵团被围后，胡琏立即到南京请求蒋介石派飞机送他回前方。蒋对胡极为嘉许，即令空军总司令周至柔为胡琏准备飞机，并通知黄维开辟一小型飞机场。
12月1日下午，胡琏坐在空军总司令周至柔给派的专机上，头靠着舷窗出神，他的心在牵系着他的第十八军、第十二兵团。胡琏其貌不扬，但秉性坚毅果敢，手段狡诈凶猛。他从连长、营长、团长、旅长、师长一步步迈上第十八军军长的宝座，在继陈诚、黄维之后，在枪林弹雨中，他把第十八军磨炼得更能征惯战，并靠它出了名，以至于老蒋把第十八军宠为国军“五大主力”之一。而他的部下，则因钦佩他的“卓越军事才能和卓著功勋”而对他树立了一种由衷的敬仰和依赖感，现任第十八军军长杨伯涛就是其中之一。
胡琏一直在沉思，卫士过来提醒他：“下面就是双堆集战场了。”胡琏一惊，低头向下望去，开阔无垠的大地上耸着两个馒头大小的土墩子，一条泛着银光的小河蜿蜒横卧，四周的地面上是一层层、一圈圈的堑壕，仿佛一个巨人的大拇指螺纹。小飞机在刚刚修好的简易机场上歪歪扭扭地降落。
黄维率副司令官兼第八十五军军长吴绍周、兵团副参谋长韦镇福、第十八军军长杨伯涛、第十军军长覃道善、第十四军军长熊绶春等一大批高级将领，众星拱月般地围了上去。
黄维握住胡琏的手，使劲儿地摇了摇，想说些什么，但觉得说什么都不妥。十二兵团陷入今天这样一个境地，虽有种种隐情缘由，但这又如何能为自己开脱责任呢？胡琏跨进兵团部作战室，一眼就看见挂图上黄百韬第七兵团的标志，便狠狠地用手指一戳，说道：“早他妈的完蛋了！”将领们的身子不由得痉挛一下。黄维张大了嘴，长长地出了口气。如果早知道黄百韬全军覆灭，他岂会北渡浍河，强攻南坪集？这一军情南京、徐州为什么不通报？唉，非天亡我，是自己人也！
黄维让各军长在地图前向胡琏报告各自的位置，胡琏听取了各军、师长的意见，了解了部队的情况后，传达了蒋介石调集大军增援作战的决心，要求大家固守待援。接着便到各军、师阵地视察了一遍，作了局部调整。
胡琏的到来着实给包围圈内的官兵注射了一针强心剂。但是几天之后，局势越来越糟，解放军的攻势更加猛烈，阵地每晚都要丢掉几处。
双堆集一带，地形平坦开阔，村庄分散，树木也很少，没有多少的地形、地物可资利用。解放军在紧缩包围圈之后，运用逐点蚕食的攻击法，采取掘壕前进、近迫作业的沟壕战术，一道道攻防体系、完整的交通壕如长蛇似的径直伸向蒋军阵地前沿，形成无数绳索，紧紧纠缠着守军的据点和阵地，捆缚着他们的手脚。蒋军晚上遭袭往往措手不及，却又不敢妄动；白天，则目睹身处如此险恶环境，纷纷魂不附体，不战自溃。
杨伯涛一边为胡琏指点，一边万分忧虑地说：“共军夜夜挖工事，一夜推进几十米，甚至上百米，我们这点儿地盘，哪经得起他们这样没日没夜地蚕食呀！”
胡琏听了默默无语。解放军迫近阵地后，用各种火炮于黄昏时实施攻击。其炮火之集中和猛烈，使蒋军的野战工事基本上被摧毁，人员遭到很大杀伤，然后在炸药包爆破之下，攻击小分队一举突进，攻占阵地，歼灭守军。
“轰！轰！轰！”一连串霹雳般的爆炸声传来，直震得胡琏的耳朵“嗡嗡”直响。
诚惶诚恐地缩着脑袋的第十四军军长熊绶春向黄维和胡琏叫苦道：“共军最近一直用这种巨炮轰击我军阵地，一炸，周围几十米内没有一个活人，这肯定是从苏俄运来的新式武器。”
黄维愣着两眼，自言自语道：“我也从来没见过威力如此巨大的炮，幸亏它射程不远。”
黄维、胡琏、熊绶春哪里会想到，那“特大威力的炮”是解放军自己制造的。其实，那并不是什么大炮，而是解放军战士发明的炸药抛筒。原来，中原野战军前一年千里跃进大别山，通过黄泛区时，重武器几乎丢光了。第三纵队有个叫顾颜邦的炮兵老战士，此人是个非常精明的土专家，他看着总共只有3门山炮的炮管，忽发奇想，将汽油筒改造成炮筒，用炸药包当炮弹，一次竟能推出几十公斤的炸药。在靠近蒋军阵地的工事时，将炸药从三四百厘米口径的铁筒中抛射出150米左右，所到之处，地堡、工事无不在巨响中飞升天空，蒋军不是被炸死就是被震昏。解放军称这种炮弹为“飞雷”，蒋军则骂之为“没良心炮”。当一个个斗大的黑乎乎的飞雷在空中飞舞时，蒋军前沿阵地官兵见之无不魂飞魄散。后来总攻时，中野四纵某个团将1700多斤炸药制成80多个飞雷，倾泻到蒋军第十四军杨圩子阵地上，炸得该阵地天昏地暗、血肉横飞。在淮海战场上，这种“新式武器”已为各纵队广泛而大量地使用。