在抗日战争中，国民党和蒋介石采取的是一条片面抗战路线，他害怕人民群众力量的壮大，害怕中国共产党及其领导的八路军、新四军的不断发展。抗战初期，当日军向华北大举进攻之时，蒋介石、阎锡山的国民党军队大部分溃逃，放弃了大片国土。当八路军进入华北，打了几个胜仗，夺回许多失地并创建了敌后抗日根据地后，他们却企图从八路军手中来“恢复失地”。1938年11月，武汉失守。抗日战争进入战略相持阶段。此时，日军暂时停止对正面战场的大规模进攻，减轻了对国民党军队的军事压力，转而加紧对国民党高层的政治诱降活动。国民党蒋介石这时候虽然仍继续抗日，但对共产党、八路军和敌后抗日民众运动加以种种限制，调集重兵袭击八路军等抗日武装，不断制造事端，加剧磨擦。
还在1938年6月，蒋介石即任命鹿钟麟为河北省政府主席兼保安司令，指望他把共产党、八路军挤出河北。蒋介石还在鹿身边安插了一批坚决反共的顽固分子。省政府委员“民军”总司令，冀中恶霸张荫梧就是其中一个。12月，蒋介石又任命鹿担任冀察战区总司令，随后，国民党政府又将第九十七军朱怀冰部；第十军团石友三部；河北“民军”总指挥张荫梧部；豫东游击司令孙殿英部及河北保安团等武装列入冀察战区序列。其中，朱怀冰部在国民党军队中力量较强。这表明国民党顽固派反共限共、扩大磨擦的决心已定。
1939年1月，国民党在重庆召开五届五中全会，确定了消极抗战、积极反共的方针。不久又制订了《防制异党活动办法》，颁布了《共产党问题处置办法》和《沦陷区防范共产党活动办法》等文件，在全国各地，尤其是华北，掀起了反共高潮。
这时在华北敌后的八路军不仅要对付日军疯狂残酷的“扫荡”，还要提防顽固派的反共磨擦。但是，共产党、八路军坚持把民族斗争放在首位，不希望抗日民族统一战线发生破裂。朱德明确指出：“我们目前最主要的是在敌人后方广泛的开展游击战争，坚持抗战。”八路军各部主力仍继续深入敌后，开展游击战争，粉碎日军的“扫荡”。然而，国民党顽固派的种种逆行却越演越烈。1939年6月11日，张荫梧乘日军对晋察地区根据地进行大规模“扫荡”、八路军主力在前线作战之机，亲率3000多名“民军”，偷袭、包围冀中根据地驻深县的八路军后方机关，惨杀八路军官兵400余人，制造了骇人听闻的深县惨案。12月，阎锡山指挥在山西的国民党军进攻中国共产党领导的抗日决死队、新军和八路军三五八旅，残酷杀害我抗日干部、共产党员、进步分子600多人，制造了十二月事变。
国民党顽固派的罪恶行径使共产党、八路军忍无可忍，不打退他们的嚣张气焰，就无法进行抗日。1939年，中共中央提出了“坚持抗战、反对投降，坚持团结、反对分裂，坚持进步、反对倒退”的政治口号，制定了“人不犯我，我不犯人，人若犯我，我必犯人”的自卫原则。朱德根据中央的指示精神，领导了华北反磨擦斗争。
1939年7月，日军开始对晋东南根据地进行第二次“九路围攻”。当八路军在极为艰苦环境中同日军殊死作战时，顽固分子张荫梧率部从背后袭击包围八路军赞皇工作团，杀害八路军工作人员10多人，并将该工作团的公私财物和文件抢劫一空。10多天后，张荫梧再次袭击赞皇工作团及八路军独立支队第二大队。八路军在反击中缴获了张荫梧部下勾结日军共同向八路军进攻的密信。在确凿的证据面前，当地八路军指战员和老百姓坚决要求清算张荫梧的罪行。朱德强烈谴责顽固分子的行径，他于8月15日和彭德怀联名致电毛泽东，提出对河北国民党顽固分子进行斗争的方针和部署。经中共中央批准，刘伯承奉命率一二九师一部于8月24日一举歼灭张荫梧部大部，27日又全歼其残部，张荫梧只身逃跑。
在顽固派军队中，朱怀冰部实力最强，因而成为同八路军搞磨擦的主力。1940年2月18日，朱怀冰部突然袭击冀南磁县西贾壁村、大湾村八路军驻地，杀害指战员100多人。朱怀冰还在这时气势汹汹地来到八路军总部，要八路军把河北让给他。他蛮横地问朱德：究竟是让还是打？朱德说：我们建立根据地是为了抗日，为什么要让？再说，大革命时期我们让过一回，让坏了。大革命一失败，国民党右派来了，要杀我们，我们那时候没有军队。领袖陈独秀又是一个机会主义者，只能让他杀。现在我们有八路军。我们的领袖是毛泽东，不是陈独秀，为什么还要让？朱怀冰听罢仍旧威胁要打。朱德严励地告诫他：你要晓得，我们改编为八路军以来，没有打过内战。但是，你要打，我们一点也不怕。朱怀冰在朱德面前碰了个硬钉子，但他并未就此罢手。一场磨擦与反磨擦的斗争是不可避免的了。
2月21日，朱德、彭德怀就如何消灭顽固派军队作出了部署：先打石友三，再打朱怀冰，争取其他各部中立。石友三早就勾结日寇准备投降。八路军在掌握其通敌证据后打算彻底消灭之。石友三得知后在日军掩护下逃到卫河以东。3月4日，八路军总部下达打击石友三部的命令，到11日，全歼该部，共毙、俘其3600多人。石友三因通敌罪证确凿后被枪决。
3月5日，八路军总部发起磁（县）武（安）涉（县）林（县）战役，反击朱怀冰部。朱怀冰自恃实力很强，实际上不堪一击。战役只打了5天即将其打垮。此役共歼灭朱怀冰部第九十七军及杂牌武装1万余人，俘获朱怀冰部第九十四师参谋长蒋希文等军官及朱怀冰的妻子。
歼灭朱怀冰、石友三部以后，顽固派在华北再也没有力量同八路军搞大规模的磨擦了。国民党发动的这一次反共高潮被打退了。
在同国民党顽固派进行斗争的过程中，共产党和八路军总部一再坚持以抗日的民族大义为重，注意把握斗争的分寸。朱德在军事反击中适可而止，及时停止攻击，作出适当让步，以此争取国内和平，维持抗日民族统一战线，为下一步国共谈判打开大门。当追击朱怀冰部时，有人提出活捉鹿钟麟，朱德指示不要捉，因此故意让开一条路，让他跑掉。对俘获的朱怀冰部军官及朱怀冰之妻，八路军加以优待，不久即全部释放。
就在八路军反击顽固派之时，蒋介石一再命令第一战区司令长官卫立煌进攻八路军。卫立煌出身寒微，为人正直，有爱国思想。在忻口会战时，他与朱德协同指挥作战，打击日寇，彼此对对方印象很好。卫立煌对八路军英勇抗战内心很敬佩，朱德也赞赏他的积极抗日态度。于是，两人成为挚友。此时面对蒋介石的命令，卫立煌很为难。他致电朱德，希望通过谈判来解决问题。这个意见符合中共中央和八路军总部在反磨擦斗争中的方针，即不希望抗日民族统一战线破裂。因此，中央同意朱德前去洛阳同卫立煌谈判，解决划分防区、停止军事冲突、继续团结抗日以及八路军扩编增饷等问题。这时，中共中央准备尽早召开党的七大，希望朱德能早回延安。
在洛阳，朱德与卫立煌进行了融洽的会谈，但是朱德提出的要求，有些事情卫立煌作不了主，问题终究还是无法解决。蒋介石希望朱德能作出让步，并要朱德在会谈后去重庆见他。这时，赴苏联治病的周恩来回到延安，他同蒋介石谈判有着丰富的经验，中共中央决定由周恩来去与将介石谈判，朱德不再去重庆，直接回延安。
1940年5月中旬，朱德离开洛阳，乘火车经潼关抵达西安。在西安逗留数日后，他乘大卡车，把一批要去延安的进步人士和青年带走，同时还带去一大批延安急需而又为国民党禁运的通讯器材。途中，朱德提议去拜谒黄帝陵。在陵前，朱德即席讲话，他说：
中华民族有五千年光辉的历史，然而近百年来我们这个民族却遭受了帝国主义的百般欺凌，被称作‘东亚病夫’。现在这个古老民族觉醒了，我们这些黄帝的子孙点燃了民族解放的烽火，全国人民正进行着神圣的抗日战争。抗日战争就是中华民族复兴的战争。我们一定要把这场战争进行到底，我们也一定能取得战争的胜利！现在有人想阻挠抗日战争的胜利进行，想妥协投降，这种人是黄帝的不肖子孙！
5月25日，朱德一行平安到达延安。此后，中共中央决定让他留在延安协助毛泽东指挥全国各抗日根据地的斗争，直至抗战最后胜利。
从1937年9月到1940年5月短短的近3年时间里，八路军在敌后开展游击战争，创建抗日根据地，歼灭敌人的有生力量，光复大片国土，建立了不朽的功勋。所有这一切同朱德是紧密相联的。