1937年12月中旬，日军第十三师团自镇江、南京、芜湖渡江沿津浦线北上，与津浦线北段日军遥相呼应，准备一举攻下徐州。津浦线南段，我军自南京失陷后已撤往浙皖腹地，造成淮河一带阵地空虚。李宗仁调兵遣将，加紧作战部署，其要旨为：“以战区大部分部队沿津浦路侧击，开展运动战、游击战，阻敌南进，各兵团作战目的是要于滁县、明光等处，逐次抵抗，最后将北进之日军阻止于淮河南岸。”基于这样的作战方针，李宗仁立即将原驻海州的李品仙第十一集团军（辖刘士毅第三十一军）调至津浦线南段滁州、明光一带，纵深配备，据险防守，并与于学忠、徐源泉各军及安徽境内各部队组成淮南兵团，负责津浦线南段对日作战。
李品仙，字鹤龄，1890年5月14日生，广西苍梧人。卢沟桥事变发生后，李品仙于1937年8月任第十一集团军总司令，下辖第七军、第三十一军、第四十八军3个军。八一三淞沪会战爆发后，李品仙所部奉命于9月中旬派韦云淞率第四十八军赴上海参战，旋在桂林将第十一集团军总司令部组织就绪，9月29日起程开赴徐州。11月第七军、第四十八军另组第二十一集团军，由原第七军军长廖磊升任第二十一集团军总司令，李为第五战区副司令长官兼第十一集团军总司令，下辖第三十一军（辖一三一、一三五师及一三八师3个师）。
津浦线南段各作战部队，桂系军队是其重要组成部分。这些军队大半来自广西农村，忠厚淳朴，与招募军队迥然不同，在李品仙的亲自调训下，不仅战斗力较强，而且风纪良好，开赴前线，与当地人民之间形成了友善和谐的关系，为日后发动民众，军民合作共同抗敌，打下了基础。所以，当人们看到桂军开赴抗日前线时，都认为这样的军队能够打胜仗。
李品仙受命负责津浦南段防御作战后，即根据第五战区制定的作战方针，对所属各军下达命令如下：（1）于学忠军位置于淮河北岸，沿淮河北岸构筑防御阵地，拒止敌之北进，并以一部进至南岸防守蚌埠，不得已时再撤回淮河北岸固守。
（2）第三十一军以一部在刘府附近，主力在凤阳、红心铺附近占领阵地，行攻势防御，对沿铁道线北进之敌实施侧面攻击，将敌切断分割包围而歼灭之。另以一部进出张八岭、明光一带实施游击，迟滞并引诱敌人前进。
（3）徐源泉之第十军即由现地速向合肥推进，策应第三十一军之作战，杨森之第二十军在徐军到达前，以一部驻和县、裕溪口等处警戒江防外，主力即将移驻安庆，任长江北岸一带之防守。
（4）二十一集团军应即日由九江渡江北返向合肥集结整理待命。
（5）第十一集团军总部于元月五日移驻寿县。
部署完毕后，李品仙亲自赴各县镇视察，宣传抗日，号召民众群策群力，共同杀敌。
1938年1月上旬遵照大本营指示，日军第十三师团开始由滁县沿津浦路北犯，行至张八岭、岱山铺等地遭到我第三十一军的节节抵抗。该军驻守明光以南地区，湖沼山丘交错，易于防守，而敌人的机械化部队则不易发挥威力。日军北侵遭到堵截，即自南京增派援军及坦克、野炮等重武器，倾巢来犯，我军奋起迎敌。李宗仁在敌我双方消耗至相当程度时，命令三十一军对敌的抵抗适可而止，全师西撤，让开津浦路正面，但仍保有随时出击的能力。1月17日，日军占领明光。刘士毅率部退守池河西岸梁家山、马家岗、三河集及池河东岸的池河镇、藕塘一线，与铁路西侧珠龙桥的日军对峙。
池河镇在明光以南约27公里处，位于津浦路西侧，其东山地绵亘，西面则为起伏较缓的小高地，村落稠密，道路纵横。池河又名明光河，在津浦线西侧由南向北穿过铁路，流入与洪泽湖相通的女儿湖。明光站地处池河与铁道交汇点的东面。沿池河两岸部署的我军阵地，不仅阻挡了日军的北进，而且对于铁道线正面的敌军亦构成重大威胁，使敌人不敢冒险由明光继续向临淮关进攻。因此，池河一役，势不可免。
1月23日，日军增援部队陆续抵达，连日用大炮猛烈轰击我方阵地，并分3路冒雪强渡池河：一路在明光对岸的梁家山、马家岗；一路在三河集；一路则由珠龙桥攻池河镇。我守军将士虽多为南方健儿，不适应雪天作战，但仍在抗战热情鼓舞下英勇杀敌，击退了敌人的一次次进攻。从25日起，战事渐趋激烈，敌后援部队已增至2000余人，向我梁家山一带阵地猛烈炮击，并以机枪掩护其步兵于黄昏时强行渡河，我八○九团官兵奋起还击，将渡河之敌百余名悉数歼灭。26日下午2时，日机炮联合作战，先以飞机10余架对我西岸阵地狂轰滥炸，继以重炮密集射击，使我方阵地工事遭到严重毁坏，日军随之在明光、汤郢铁桥、西街等处同时渡河，一度攻入河西阵地。我守军八二四团虽处劣势，仍浴血奋战，与渡河之日军肉搏10数次，于次日在八○九团协助下，收复阵地。与此同时，三河集至池河镇一带，战事亦激烈展开。
28日，被我击溃的西街方面的日军转由马家岗、七里河等地进攻，同样受到我军的痛击。
29日下午2时，日军再次由西街渡口强行渡河，我方阵地在敌机炮联合猛烈轰击下已毁坏殆尽，且守军第四○五旅经数日来昼夜苦战，疲乏已极，死伤甚众，不得已由梁家山向五里墩阵地撤退。日军渡河者约千余，在占领梁家山阵地后继续向我五里墩猛攻。下午5时，大王山东北又有日军五六百人向我右翼迂回，铁路以北也出现千余名日军向我左翼运动，企图包围五里墩阵地。此时，我军预备队业已悉数用尽，守卫将士在内困不堪、外无救援的情况下，仍力拒敌人的前进势头，坚持至黄昏后，才利用黑夜掩护摆脱敌军包围，逐次向燃灯寺、谢家后山、坦山寺、老凹山、小溪河、吴庄沿线既设阵地转进。当日，池河镇方面日军增至二三千，并以飞机10余架、坦克10余辆掩护攻击，我守军四一二旅与敌血战半日，因伤亡重大，向池河镇西岸转进。
30日，坚守马家岗、三河集之线的第一三八师，迫于周围日军的包围态势，亦放弃东岸阵地，向桑家涧阵地撤退。一三一师奉命至亘五里、捞王家、官桥、吴家之线及老人仓附近埋伏，阻击日军，以10倍于敌的伤亡坚持两日之久，确保了其他部队的安全西撤。
自24日起至30日止，在历时7昼夜的池河之战中，我军伤亡过半，歼敌近2000名。至此，池河阻击战遂告结束。
日军占领池河两岸后，由池河镇沿公路迅速向西进击，连陷第一三五师梁家山、燃灯寺等阵地，三十一军遂被迫向西撤至定远、凤阳一带。敌又增加兵力数联队，共2万余人，于2月2日下午由明光、池河以全力向我进犯，一路犯凤阳、定远；一路犯临淮关，对蚌埠取包围态势。我军官兵虽奋力拼搏，终因工事尽毁，无险可守，忍痛退出蚌埠。2月4日，日军至此，南段津浦线西侧失陷。日军急谋渡淮北上，淮河阻击战就此展开。
淮河发源于河南桐柏山，向东流经豫、皖、苏三省，注入洪泽湖，全长约1000公里，水深流急，是我国四大名川之一。淮河北邻黄河，南接长江，在抗战初期是津浦线南段我军继池河之后的又一道天然防线。1938年2月2日，日军业已抵达淮河南岸。但敌军挟大量重武器一时难以渡河，为我军凭河据守提供了有利时机。第五战区决心坚守淮河。
2月2日，李宗仁电召第五十一军军长于学忠前往徐州接受任务，命其开往淮河北岸，接替三十一军防务，阻敌前进。4日，于学忠率五十一军抵淮河前线。
于学忠，字孝侯，祖籍山东蓬莱县。1890年11月19日生于奉天府金州厅旅顺地方（今辽宁旅顺）。其部属张学良的东北军。卢沟桥事变爆发后，于学忠奉命率五十一军开赴青岛，配合沈鸿烈所部海军第三舰队守卫海防。8月，于学忠任第三集团军副总司令，指挥全军沿青岛崂山一线布防，构筑工事。12月25日奉命退出青岛。
1938年1月24日，韩复榘被执行枪决，于学忠被任命为第三集团军总司令。五十一军撤出青岛后，调至津浦线南段接替三十一军在临淮关、蚌埠一带布防。
五十一军是一支骁勇善战的部队。于学忠平日善于将兵，深受部下拥戴。部队的战斗力很强。五十一军下辖第一一三师（师长周光烈）、一一四师（师长牟中珩）。部队开抵淮北前线后，立即在西起怀远东至五河沿淮河100多公里长的战线上布防，严阵以待。
2月5日至7日，日军在蚌埠、怀远作试探性攻击，企图强渡淮河、涡河，均被五十一军击退。之后，日军渡河攻势集中于小蚌埠。小蚌埠位于蚌埠对岸。河面狭窄，加之蚌埠船坞停有木船千只被日军俘用，故日军决定对小蚌埠采取中央突破战略，于8日开始强渡，淮河之役正式揭开战幕。
2月8日下午，日机24架在小蚌埠上空狂轰滥炸。晚上，日军在木船上堆放沙包或用棺材装满泥土并配以机关枪，在炮火掩护下，连续3次强行渡河。我一一三师三三七旅六七三团奋起还击，将敌击退。敌人接着又发动两次进攻，小蚌埠半陷敌手，我六七三团同来犯之敌展开白刃战，经反复冲杀，至9日凌晨l时，将小蚌埠完全收复。