日军被击溃了。将士们聚集在罗团长身旁，把一束束鲜艳的桃花放在他的遗体旁。山坡上，那些盛开的桃花在微风中摇摆，仿佛在向英雄志哀，向英雄告别。
至4月7日凌晨，被围困的日军濑谷支队除少数鬼子突围到达峄县固守待援外，其余全部被歼灭。
台儿庄战役，以中国军队的全胜而落下了帷幕。
一场血战结束了。第5战区司令长官李宗仁在作战厅长刘斐的陪同下，来到台儿庄阵地，进行巡视。看到战场上中国军队官兵壮烈牺牲的动人情景，刘斐对李宗仁说：这场战斗打得这么苦，国民政府应该大力宣传，以振士气。
李宗仁频频点头，他对身边的人说，把台儿庄战役的详细情况电告各方，多做宣传，扩大影响，鼓舞抗日士气。
台儿庄战役，中国军队给予来犯日军歼灭性的打击，摧毁坦克30多辆，缴获了大批军用物资。据日军华北方面军参谋第3课统计，2个师团一共死伤1.2万余人。
这是中国军队在抗日战争中取得的最大的一次胜利，这个胜利，鼓舞了中国军队的士气，沉重打击了日军的嚣张气焰。日军《步兵第10团战斗详报》记载，台儿庄中国守军“决死奋战之状历历在目”，“士兵依靠堑壕顽强抵抗直到最后”；堑壕中尸山穴河，“睹其壮烈者亦为之感叹”。
台儿庄大捷，鼓舞了中华民族的抗战激情，掀起了抗击日寇的高潮。为了庆祝这一胜利，武汉举行了10万人的大游行，游行队伍前面，用卡车载着李宗仁和白崇禧的巨幅画像。
军事委员会参谋长何应钦在国民党五届五中全会报告军事时，称：“敌坂垣、矶谷两师团，直迫台儿庄，经孙连仲部坚强抵抗，以杨军团由东北向西南压迫，并以孙桐萱、曹福林、李明扬各部，渡过微山湖，断敌交通补给，迄4月3日，我包围之势已成，对台儿庄之敌，乃实行总攻，敌伤亡约达2万人，几全部歼灭，我俘获无算，为抗战以来空前之大胜利。”
徐州会战，日军大本营深感兵力不足，侵华的战线太长就是一个重要原因。
毛泽东特别强调：“我们若能运用运动战、阵地战、游击战3种方式互相配合，必能使敌军处于极困难地位。”台儿庄战役，就是阵地战与运动战的互相配合，奏响了胜利的凯歌。
国民党高级将领陈诚认为，台儿庄之战胜，在战略上考察，乃各战场我军努力之总和，不可视为一战区之胜利。
徐州会战期间，八路军积极开展敌后游击战，牵制了日军的大量兵力，使其无法向徐州战场增援。当时，在华日军一共有9个半师团，用于山东方向作战的只有第5、第10师团。如果没有广泛的游击战的配合，日军再向山东方向增加兵力，就可能出现另一种结局。
台儿庄战役的胜利，是抗日将士用鲜血和生命换来的。台儿庄大捷，中国军队付出了沉重的代价。参战4.6万多名官兵，伤亡和失踪7500人。战斗结束后，全国的许多报刊纷纷报道抗日将士打击日本侵略者的英勇事迹，其中，长沙《大公报》在4月15日发表了题为《扼守南口威震中外，台庄会战为国捐躯》的文章，悼念罗芳圭团长。国民政府军事委员会追赠罗芳圭团长为陆军少将。蒋介石等国民政府军政要人，有的为其墓碑题词，有的亲送挽联。
中共中央副主席周恩来得知罗芳圭团长在台儿庄战役中以身殉国，深感悲痛，提笔写挽联悼念这位抗日将士。
中国人民不会忘记抗日英雄。1988年5月18日，中华人民共和国民政部追认罗芳圭为革命烈士。
6.在黄河水泛滥中结束
台儿庄战役结束以后，中日两军的统帅部重新判断徐州地区的战争形势，都大量向徐州地区调集军队，但战略出发点不同。
台儿庄战役，中国军队歼灭日军万多人，一度掌握了徐州会战的主动权。中国最高军事当局受到台儿庄大捷的鼓舞，对徐州地区军事态势作了新的分析判断，日军不可战胜的神话再一次被打破。对于下一步行动，国民政府一些高级将领意见不一致。有人认为，徐州附近的中国军队应转移阵地；重新建立起一道保卫武汉的新防线。有些人主张，要利用部队高昂的士气，再打一个胜仗。
蒋介石接受了后一种建议，决定“扩大台儿庄战果”，在徐州地区同日军进行一场决战，夺取决战的胜利。因此，蒋介石按照决战的意图，把战斗力强的部队纷纷调到徐州地区。出于这一战略考虑，第5战区的部队由会战初期的29个师迅速增加到64个师又3个旅，总兵力约60万人。
日军大量向徐州地区增加兵力，主要出于4种考虑。
一是通过台儿庄战役，日本军国主义者看到徐州附近集结了大量中国军队，认为这是进行一场决战的好时机，是歼灭中国军队的主力，挫伤中国军民抗日意志的好时机。
二是春季来临，日军对北方强国苏联的战备有所松弛，在全局上日军有较多的机动兵力可以南调，战略预备队的力量加强。
三是日本最高军事当局受台儿庄战役失败的影响，对中国军队的战斗力进行新的评估，认为徐州不可能轻易取得，必须调集重兵，四面合围，才能打通津浦铁路，攻占徐州。
四是台儿庄作战失败后，一些军官萌发了报复中国军队的心理。
出于以上考虑，日军统帅部对徐州地区的军事态势作了新的判断，对北平、天津、山西、江苏、安徽等地日军的作战任务重新进行调整，抽出第14、第16、第114师团，命令这3个师团向徐州地区运动，配备各种重武器，调遣数百架飞机，进行徐州作战，打通津浦路。
4月3日，日军大本营研究了进行徐州作战的可能性。
4月7日，日军大本营下达了组织徐州作战的命令。陆军部根据上述命令，制定了《徐州附近作战指导要领案》。其基本作战意图是：徐州作战，华北方面军和华中派遣军联合组织实施，以华北方面军为主，华中派遣军配合华北方面军作战。作战开始后，主力兵团向西迂回，从侧后保卫徐州，歼灭中国军队第5战区主力。其任务区分主要是：
华北方面军第5、第10、第14、第16师团向开封以东行动，攻占陇海铁路沿线以北地域；主力南下，进攻徐州；用2个师团向兰考、商丘方向进攻，切断中国军队向西的退路。
华中派遣军第9、第13师团在徐州以南行动，占领徐州以南的津浦路和合肥地区，从南面策应华北方面军进攻徐州。
4月中旬，“日军大本营派遣班”进入中国，在济南设立指挥机构。这个派遣班由参谋部作战部部长桥本群少将率领，主要任务是协调徐州南、北日军两大兵团的作战行动。4月17日和18日，日军在济南召开了参谋工作会议，华北方面军和华中派遣军有关人员在会上明确了两军进行徐州作战的有关事宜。由此可见，日军大本营对徐州作战是多么重视。
4月18日，日军发起了新的攻势。
日军第5师团遭到中国军队沉重打击以后，稍经补充休整，以步兵第9旅团为骨干组成国崎支队，从临沂西北的义堂地区南进。第10师团分成3路纵队，从薛城、峄县、向城之间60公里的正面上向南攻击前进，对中国守军进行牵制性进攻。第16师团的草场支队担任第10师团的预备队，片桐支队担任第5师团的预备队。中国军队第2集团军，第20、第3军团，第27军团第59师奋起抗击。日军每前进一步，都受到中国军队的沉重打击，进攻迟缓，到月底，这路日军仍被阻止在韩庄、邳县、郯城一线地域。
日军新的进攻，催促中国军队作出新的作战部署。徐州战场有64个师，这不是一支小部队。这些部队如何部署，蒋介石并没有作出详细计划。作战厅长刘斐曾向蒋介石建议，山东南部的中国军队应该以机动防御为主。在作战指导上，除以一部分军队同日军保持接触外，主力应集结在便于机动的地区，相机打击日军；运河沿线要有中国军队防守；徐州以西地区，要控制强大的战略预备队，以便应付突然发生的各种情况。但是，这些建议没有被采纳。
第5战区司令长官李宗仁对徐州周围集结重兵有不同看法。李宗仁认为：“我方在徐州一带平原，聚集大军数十万人，正是敌方机械化部队和空军的最好对象”。李宗仁还指出：“以我军的装备，只可相机利用地形条件，与敌人作运动战。”
从以上分析看，蒋介石集团虽然决定在徐州同日军决战，但没有形成一个完整的决战方案，数十万部队匆忙调往徐州地区，仓促防御，许多带兵打仗的将领对总的作战意图不明了，这是导致后来徐州会战失利的一个阴影。
李宗仁经过反复考虑，决定把其中21个军编为5个兵团。这些兵团是：
淮南兵团：李品仙任司令员，编有3个军的部队。
淮北兵团：廖磊任司令员，编有4个军的部队。
鲁南兵团：孙连仲任司令员，编有9个军的部队。
陇海兵团：汤恩伯任司令员，编有3个军的部队。
苏北兵团：韩德勤任司令员，编有2个军的部队。
一场数十万军队参加的大会战开始了。
徐州大会战，实际上是徐州外围战。
5月5日，日军从南面和北面同时向徐州夹击，其战略意图是，先迂回徐州西侧，再四面包围徐州。
徐州南面战场：日军第9、第13师团从蚌埠沿北淝河、涡河西岸北进。第3师团从蚌埠出发，向大营集、宿县进攻。
徐州北面战场：日军第16师团从山东的济宁渡过运河，向江苏省的丰县、砀山挺进。第14师团从河南省的淄阳县南渡黄河后，向兰考挺进。第10师团把韩庄、台儿庄地区的作战任务交给第114师团接替，在夏镇附近渡过微山湖，向江苏省的沛县进攻。
以上作战目的一旦达成，日军就完成了对徐州的四面合围，形成同中国军队主力进行决战的态势。
为了从四面合围徐州，日军对这次进攻行动进行了精心的准备。进攻发起后，各部队进展顺利，会战进程似乎是按照日军单方面制定的时间表推进的。
5月9日，日军第16师团南下，向砀山、唐寨地区挺进，从西面攻击徐州。第14师团步兵第28旅团奉命从河南新乡转赴山东济宁，向郓城、菏泽等地发起进攻，掩护师团主力强渡黄河。
5月10日，日军第9师团经蒙城、永城等地，向徐州西南地区进攻。当时，廖磊指挥的第21集团军所属第7、第48军防守淮河中流地域。廖磊命令第171师师长杨俊昌带一个团，扼守宿县；命令第173师副师长周元率领一个团，扼守蒙城。日军进攻蒙城时，周元遵照廖磊司令长官的命令，指挥2000多官兵拼死抵抗。激战中，防守蒙城的中国军队除20多名士兵突围外，周元副师长及其余官兵全部壮烈牺牲。这路日军16日逼近徐州。
5月11日下午，日军步兵第28旅团在旅团长酒井隆少将的指挥下，攻占郓城。郓城失守，菏泽就暴露在这路日军的进攻正面了。防守菏泽的中国军队第23师师长李必蕃感到敌情严重，严令第68旅组织反攻，夺回郓城。
第68旅出发后，李必蕃师长亲自带领师直属队前往增援。第68旅刚从前线撤退，没有得到休整，加之日军的炮火异常猛烈，部队多次组织反攻，官兵遭受重大伤亡，仍然没有夺回郓城。李必蕃师长立即调整部署，把第67旅配置在菏泽左侧，把第68旅部署在菏泽的右侧，严令全师各部队抓紧时间做好战斗准备，死守菏泽。李必蕃是湖南省嘉禾县人，先后在长沙陆军小学堂、武昌陆军中学堂、保定陆军军官学校学习军事，毕业后曾担任团副、参谋主任等职。参加北伐战争中，战功显著，升任团长。1936年1月，任第23师少将师长。全面抗战开始以后，李必蕃率领部队从临潼出师抗日，在沧州作战中，荣立战功，受到嘉奖。第23师参加徐州会战，李必蕃师长严阵以待，部队官兵的抗日热情高昂。
5月12日，日军第14师团南渡黄河以后，迅速以一部兵力前进到内黄集附近，截断了陇海铁路。这等于截断了中国军队向西撤退的后路。
5月13日，日军第13师团前进至徐州西南的永城，占据了徐州西南方向的有利地域，从西南面包围徐州。第9师团沿津浦铁路前进，攻占宿县。南线日军，攻占永城、宿县以后，从南面形成了对徐州的合围态势。
5月14日，日军第28旅团凭借化学武器和重炮的猛烈攻击，突破菏泽的外围阵地，把菏泽城四面围困起来。
防守菏泽，又是一场血战。
李必蕃指挥的第23师，有一支以工兵为主的骨干队伍，擅长防守，敢打硬仗。看到日军猛烈的进攻，李必善知道菏泽已经是一座孤城了，守城的决心更加坚定。他对官兵们说：“我们无论如何都要坚守阵地，绝不能后退，不能再让日本鬼子在中国的土地上狼奔豕突了。”