第五十九军下辖两个师：第三十八师师长黄维纲，辖第一一二旅（旅长李金镇）、第一一三旅（旅长朱春芳）、第一一四旅（旅长董升堂）；第一八○师师长刘振三，辖第二十六旅（旅长张宗衡）、第三十九旅（旅长祁光远）；连同军直属部队，共约2.1万人。全军装备中正式步枪，每班配有一挺捷克式轻机枪，军中尚有少量的步兵炮和重机枪。此外，每个士兵都备有一把大刀。
3月11日，第五十九军乘车到达峄县，下车后疾步东进，日夜兼程。一路上雨雪交加，道路泥泞。但战士们在24小时之内就走完了180里的路程，于次日傍晚赶到前沿，集结在临沂城附近沂河西岸古城、东西屯，前后岗头、砚台岭、沟上、响河屯、义堂集、南北通之线布防。
部队稍事安顿，张自忠即到第四十军军部见庞炳勋。庞炳勋见到张自忠，一把握住张自忠的大手，慨叹道：“荩忱老弟来得正好，我这里边不敷应付。部队全都拉上去了，连我的警卫都增援到了第一线，再有就是我这条老命了。不过，我是决心要和敌人拼到底的！”
张自忠微微一笑“：大哥放心，我一定帮你打胜这一仗！”张自忠的话，对庞炳勋是字字千钧。直到此时，他的心才算踏实了。
13日，张、庞两军高级将领召开军事会议，商讨作战计划。张自忠提出主动出击之策，五十九军承担主攻。让庞部仍固守城池，配合出击。并不顾部队强行军到此，非常疲惫的情况，以兵贵神速之由，决定于14日拂晓开始攻击。这让庞炳勋十分感动。
此时在日军方面，第二军司令官西尾寿造命令第五师团迅速攻取临沂，然后向峄县进发，以配合在津浦线上作战的第十师团。板垣正奉命加紧对临沂的进攻。
面对这种局面，张自忠通知庞炳勋，第四十军从正面后撤，诱敌深入，使日军的右侧翼暴露在第五十九军面前。然后，他在沂河西岸作了攻敌侧背的具体部署。
第四十军也以主力由沂河东岸与第五十九军相呼应，包围敌之主力歼灭之；在沂河西岸之一部则渡河侧击尤家庄附近之敌。到13日晚，以上各部均已准备就绪。
14日凌晨2时，第五十九军以迅雷不及掩耳之势向敌发起了猛烈的攻击。此前，敌只专攻庞炳勋部，此举敌始料不及，立刻陷入被前后夹击、首尾难顾的被动局面，板垣遂放弃进攻临沂城，调转头来同第五十九军作战。于是，双方在沂河两岸拉开架势，反复冲杀，战线曲伸，犬牙交错，形成了逐村、逐户的争夺拉锯战。
同时，庞炳勋部配合张自忠部，沿沂河东岸向北进击，占领甘屯、寇屯，一部对尤庄、柳行头，主力向相公庄方面迂回攻击中。
15日晨，计划正在实施中，战局突然发生了重大变化；地处沂水之东的日军主力分别由塔桥、车庄偷渡沂河，到达西岸，在2辆坦克、10辆装甲车以及数门大炮的配合下，向我第五十九军的左翼阵地——茶叶山附近的石家屯高地发起了猛烈进攻，企图占领制高点，并一度侵入茶叶山，威胁我整个第五十九军。鉴于情况有变，张自忠急调已经渡河的第三十八师迅速撤回河西，阻击过河日军。
本日，第四十军已进至平墩湖、曹家丹、东西张官庄、前后河湾之线，于次日重点向大小刘寨方面进攻。
16日晨6时，敌由莒县开来增援部队千余名，并由我第四十军正面东庄屯一带抽调大部，在其炮火的掩护下，又向我钓鱼台亘石家屯高地之线攻击，并以飞机10架向我崖头、茶叶山一带狂轰滥炸，阵地悉被炸平。我守茶叶山第五十九军第三十八师二二五团之第七连全部阵亡。守崖头之两连仅剩数十名，毅然挥刀冲锋，将敌击退，恢复原有阵地。
午后3时，敌又增援五六百人，炮4门，由船流渡河再向我左翼阵地发起攻击，大有不达目的决不罢休之势。
显然，战事重心已经转至河西。面对气势汹汹的进犯之敌，张自忠将兵力重新作了部署。部署停当后，各部分别动作，很快就与敌人交火，整个沂河西岸炮声隆隆，火光冲天，一场自战役开始以来最为惨烈的战斗在茶叶山、刘家湖、苗家庄等地展开。
与此同时，庞炳勋第四十军也于16日拂晓在河东开始攻击沙埠岭、大小张家寨子、尤庄、东西水湖崖等地。激战数小时，敌不支向北退去，遂将各村占领，并继续朝东庄屯方向跟踪追击敌人。
激烈的厮杀使第五十九军伤亡惨重。自投入临沂战役以来，第三十八师伤亡近4000人，第一八○师也伤亡2000余人，全军在第一线作战的部队中，营长伤亡1/3，连、排长则全部易人。由于第五十九军伤亡过重，随军作战的第五战区参谋长徐祖诒建议该军撤出战斗，加以整补。可此时激战犹酣，张自忠不甘后撤，要求再坚持一天一夜。经李宗仁同意后，他速将师长黄维纲、刘振三召来军部，当面说明敌我情况。他说“：我军伤亡很大，敌人伤亡也大。敌我双方都在苦撑，战争的胜负，决定于谁能坚持最后5分钟。”随即下达了作战命令。
入夜之后，炮火连天，枪声大作，第五十九军全部出动，饿虎扑食般向茶叶山、刘家湖、小苗家庄、船流、崖头等10多个村庄同时扑去。经过一昼夜的激烈战斗，将日军击溃。按以往习惯，日军在战场上遗尸极少，即使不能运走，也要割取战死者的一个手指或一只耳朵，回去交给他们的亲属。但这次战斗，敌连割掉他们战死者一个手指、一只耳朵都来不及，即仓皇逃命去了，可见战斗之激烈及我军之凶猛。在沙岭、大太平、崖头、船流、凤仪官庄等处，一幅激战肉搏、你拼我杀的场景在同时上映着。我军拼死向前，敌军狼狈而逃，各村庄逐个被收复。
同时，第四十军被第五十九军的猛烈攻势所鼓舞，也向敌之侧背发起进攻，夺取敌后方兵站尤庄子。固守九曲店之补充团亦发动攻势，猛击敌群。敌因主力已被击溃，无心恋战，纷纷逃遁，我方乘胜追击，斩获颇多。
至此，中国军队将进犯临沂的日军全部击溃，残敌仓皇向汤头、莒县方向逃窜。蒋介石闻悉临沂大胜，立即于17日夜致电祝捷。
从18日起，我军乘胜追击，目标是将退守汤头之敌围而歼之。汤头在临沂城北90里，为通莒县之大道。为此，第五十九军东渡沂河，与第四十军一起合围汤头之敌。此时，日军坂本支队已陷入重围，成瓮中之鳖。但此时，李宗仁突然来电，命令第五十九军停止攻击，着留一旅归庞炳勋指挥，拒止临沂以北之敌，余即开赴费县，用于攻击矶谷师团之左侧背，策应台儿庄正面作战。面对到手的猎物，张自忠好不惋惜，只好留下第一二二旅协同庞军守城，主力部队于21日午后5时冒雨向费县开进。
至此，一战临沂即告结束。
此次临沂作战，歼敌3000余人，板垣师团第九旅团第十一联队队长野裕一郎大佐、第三大队长牟田中佐及第九中队长中村等人被击毙。它斩断了华北日军的左臂，造成了矶谷师团孤军深入的态势，为台儿庄大捷奠定了基础。
3月22日，军事委员会以临沂告捷，通令嘉勉前线各军将士努力作战，并撤销了对张自忠撤职查办的处分。
正当张自忠率第五十九军向费县疾进时，身后的临沂战局又趋紧张。板垣在侦知张自忠部已开往费县的消息后，心中大喜，忙纠集4000多人，朝临沂卷土重来。几天来，敌机轮番轰炸，重炮竟日射击。3月23日，日军竟推进到距临沂城仅十数里之遥的埠前店、三官庙一带。庞炳勋的第四十军虽节节抵抗，奋力拼杀，但终因损兵折将而渐感不支。庞炳勋向蒋介石发出告急电，称“杀敌有心，恨乏实力，揆之现势，临沂城危急万分”。
此时，台儿庄大战也正在紧张地进行之中，临沂如若不保，战役全局必遭影响，于是李宗仁于23日中午急电张自忠：“第五十九军全部开赴临沂，协力庞军肃清临沂以北之敌。”接电后，张自忠立即率部原路折回。此时日军已渗透到回援路上，五十九军一路奔杀，于24日晨到达临沂城北的南曲坊、十里铺、角沂庄、屯、大小岭南、北道、红岖寺、东西墩、古城一带安营扎寨。征尘未落，张自忠便偕随从急匆匆赶往临沂城内，与庞炳勋会商作战计划。当他踏入第四十军军部时，看到的是卫兵们正在收拾行囊，准备撤退的境况。庞炳勋看到张自忠走来，顿时老泪纵横：“荩忱老弟，真难为你了。要是你不回来，第四十军必全军覆没，临沂城也势所难保。”对于这仗该如何打，张自忠在回援路上已有盘算。此役较之前役，敌我形势有了很大变化。敌援军已到，兵力得到补充，且其行动属败走后之反扑，报复心理必驱使它更加气势汹汹。而我军则元气大伤，此役距前役仅隔数日，兵力不可能得到补充。眼下，敌不仅已占领了临沂城北的刘家湖、邵双湖等要地，而且一路向沂河东岸的桃园、三官庙进攻；另一路则由临沂城北的南曲坊、朱邬向毛家庄、西北园进逼，对临沂城形成了从东、西两侧夹击之势。第四十军兵力不敷抵抗，被迫缩短战线，目前只勉守距临沂城仅有咫尺之遥的九曲店、小李家庄、石埠岭、黄山之线。如此危势之下，若以我残破之军固守城垣，或第五十九军接防第四十军继续实行正面抵御，均非上策；马上发动攻势，也为时已晚，准备不及。就眼下而言，最好的办法是第五十九军逼敌侧背，肃清河西，站稳脚跟，建立阵地。此举既可避免敌绕道河西南下台儿庄，又可引敌回攻，以解临沂之围，届时我再转入攻势，予敌重创。不料，当张自忠将这一设想提出之后，庞炳勋却近似哀求地对张自忠说：“荩忱老弟，我的队伍已经拼得差不多了，这你是知道的。贵部若不接城防，也不取攻势，那我只有全军覆没了。请老弟无论如何也要想想办法。你的恩德，于公于私，我当永志不忘！”他唯恐张自忠不允，于3月24日还发电报给蒋介石：“苦战月余，疲惫已极，官兵牺牲，武器损失，均甚奇重。职本革命军人并不气馁，乃实无战斗，请令五十九军先接职军现在防线，以固临沂。否则，出击尚未成功，而城垣不守，前功尽弃，影响战局。即职自问殊无以对国家及牺牲之官兵，现督励残部，誓死扼守，仍在激战中。伏请迅予定夺示遵。”
听庞炳勋如此说，张自忠断然改变决定，表示全力发动进攻，二解临沂之围。24日晚，张自忠下达作战命令。
先是古城战火纷飞。是夜，第三十八师以迅雷不及掩耳之势向东、西明坡及古城之敌发动了突然袭击。敌猝不及防，阵脚大乱，我不发一弹，挥刃冲杀。敌军慌乱，被砍杀甚众。于25日晨，即将古城一带占领。但敌增援部队很快就赶到，十几架飞机轮番轰炸、扫射，大批步兵在坦克的掩护下将古城村三面包围，发起了猛烈的反攻，第三十八师奋起反击，凭屋据垣节节抵抗。张自忠将集结待命的第一八○师也逐次增援到古城战场，激战终日，才将反攻之敌击退。此时，适逢庞炳勋第四十军阵地告急，为确保临沂，张自忠急令第三十八师抽调3个团的兵力，于25日晚8时分别自七沟、朱皋强渡沂河，向临沂东北的三官庙、桃园、独树头一线的敌军发起进攻，以解庞军之围。而古城方面，敌趁我抽兵他调之机又发起反扑。激战3个小时之后，敌抢占了寨西的两个大院，其中一个院子里堆满了高粱和谷子的秸秆，我军官兵即将整捆的秫秸点上火，投向院内，继而又将抛弹筒和手榴弹投将进去，顿时院内大火熊熊。士兵们趁势将院墙推倒，发起冲锋。敌见势不妙，仓皇溃逃。随后，张自忠将军部移至古城，指挥部队继续对敌实施攻击。
继而桃园争夺激烈。沂河东岸，敌用猛烈炮火掩护步兵向九曲店、赵家庄、褚家庄、小李家庄之线数次突击。第四十军竭力抵抗，但伤亡惨重，情况相当危急。恰逢此时，第五十九军第三十八师的3个团前来增援，攻三官庙、桃园、独树头一线，抄袭敌背。于26日上午攻克桃园，复南下向三官庙进攻。但三宫庙第四十军原筑工事甚坚，现反为敌所利用，故久攻不克，损失奇重。这时，敌又调大批援军由身后独树头压迫而来，并集中炮火向我袭击，第三十八师的一个团浴血奋战，伤亡殆尽。同时敌飞机4架，重炮数门，向我桃园猛烈轰炸，阵地均被击毁。
桃园部队弹尽援绝，白刃格斗，大部壮烈牺牲，不得已于26日晚复撤至沂河西岸。此役虽使临沂之围得解，第三十八师渡河的3个团却伤亡2000之众。
此时，整个战局更加紧急：敌步兵、炮兵三四千人，西渡沂河向第五十九军左翼运动，已到达临沂以北地区；新由高密增援而来的敌铃木联队亦渡河西进，先头部队已到达义堂集附近；同时，在临（临沂）费（费县）公路距临沂20里处又发现敌军千余，临沂城现已在敌炮有效射程之内。而我第四十军已基本丧失战斗力，临沂局面主要靠第五十九军支撑，但也因苦战经旬，伤亡过半。此种敌我力量对比，我方若不增派援军，临沂恐再难守。26日晚，张、庞再度紧急会商，战区参谋长徐祖诒将情况告知李宗仁。李宗仁闻报后，立即派兵增援。