经过与有关领导人慎重研究，聂荣臻决定：为使今后的行动轻便灵活，部队进一步轻装，跳出包围圈以后，除分局、边区政府与北岳区党委等主要领导人随军区指挥机关一起行动外，其余人员向几个不同的方向分散行动。军区机关仍按原来的计划，转向四分区西部滹沱河两岸地区机动。
9月5日下午，侦察员报告，沟外大路上的敌人空出了一个口子。黄昏时分，聂荣臻下令立即突围。他穿着缴获来的灰黄色日本风衣，拄着枣木棍子，在军区警卫排的簇拥下，徒步走在一团前卫部队后面。不料，他们只走了五六里路，便发现由阜平来的日军正顺着大道向西开进，为避免与日军遭遇，聂荣臻马上命令部队返回常家渠，继续隐蔽。
9月6日黄昏，聂荣臻率队再度出发。眼看着就要突围出去了，侦察员匆匆赶来，向聂荣臻报告说，由阜平向西运动的敌人不走了，都宿营在大道上的安子岭、东西下关、大教场一线的村庄，把准备穿插过去的突围路线堵住了。聂荣臻说：“队伍停下，叫陈正湘上来。”
走在后面的陈正湘快步赶了上来，聂荣臻有些忧虑地征求意见说：“你看怎么办？敌人又堵住了。”
陈正湘回答说：“没关系，我们还回去，回去再说。”
回到常家渠，聂荣臻让秘书科把那个干电池收音机送来，打算了解一下这几天的新闻。刚打开收音机，就听到日伪军的电台正在得意扬扬地广播一则有关他及军区机关的消息：
“聂总部”的电台，已被“英武皇空军”的勇士炸毁了。今天已是第三天听不到“聂总部”的电台出现了。聂荣臻已阵亡……
听到这里，聂荣臻轻蔑地一笑！
一轮明月挂在夜空，时不时地被满天的云彩遮住，使得山野沟谷里一片朦胧。乘着夜色，聂荣臻率领突围队伍第三次向常家渠西南边的口子运动。在这之前，他得到报告：通往龙泉关方向有一个小小的口子，敌人白天来，晚上就撤了。他决定在敌人的合击圈未完全合拢之前，冒险跳出去。
这是9月7日的晚上，一个胜利和失败，生存与死亡都可能出现的月夜。聂荣臻从前两次突围失败的教训中，总结出了一条相当重要的经验教训：“在敌人合击的时候，跳出合击圈的时机要恰到好处，不能早，也不能迟。过早了，敌人会改变计划向我们新的活动地域合击，等于没有摆脱敌人的合围。过迟了，会被敌人包围住，脱不了身。一般情况是，选择敌人合击圈已经形成而又未合拢的时机，才能恰好跳出去。这时，敌人改变部署已经来不及，我们却能插向敌后，袭扰敌人的交通线，重新展开攻势。”
俗话说，无三不成礼。想不到，聂荣臻的突围竟应了这句话。第三次突围成功了！在朦胧的月光中，上万人从那个令人难忘的口子逐一闪过，跳出了日军在阜平至五台一线苦心设置的大包围圈，分散向各个方向转移了。
8 日军暴行
8月23日，敌人从东北两面向我晋察冀军区领导机关和主力部队合围。早就有所准备的晋察冀军区司令部和主力部队及时转移并跳到了战役外线的敌后，而处在敌人合围之内的老百姓也都有组织有秩序地朝狼牙山撤离疏散。当日军扑向南北娄山准备合击时，不仅没见到八路军，就连老百姓的踪影也没发现。
此后，日伪军以1/3的兵力，留在抗日根据地内，实行分区“清剿”。或化装成八路军和群众，长途奔袭、多股继续寻歼主力部队、分散部队和机关及地方组织；或抓捕、屠杀人民群众及耕畜，抢粮、抢物、烧屋等。敌人采取活埋、刀砍、破肚、剥皮、喂狗、点灯、毒熏等手段，大肆残害抗日群众。
日军仅在平山黄泥、通家口、冷泉和曲阳县沟里村，就惨杀600余人。许多村庄化为灰烬。针对敌人的暴行，晋察冀军区于9月7日、15日，先后发出第二阶段反“扫荡”的指示，要求：各军分区部队一方面适当集中主力一部，打击敌“清剿”部队；另一方面，以一部兵力，开展更为分散的游击战争，打击伪政权，恢复社会秩序；各地区队和区、县游击队，协助群众进行秋收。
9月上旬，敌人又将进攻的目标转向了狼牙山方向。
狼牙山虽然称不上最高、最险，但它却以它的神秘错综、沟壑延伸多次掩护过我抗日军民并帮助他们脱离险境，可是，这次日寇发动的“百万大战”的规模比以往任何时候都大、都凶，易县、金坡、满城、徐水、大王店据点及保定守敌也纷纷出动拉开了一张巨大的网，把整个狼牙山都严严实实地兜住了。而隐蔽在山上的除了晋察冀第1军分区，还有易县、定兴、徐水和满城4个游击支队以及4个县党政机关人员和狼牙山周围村庄的群众，共计约4万人。目标之大，既不便隐蔽，又难于突围，情况十分危急。
9月23日凌晨，敌封锁兵团突然来到了狼牙山脚下，把南淇村、北淇村包围起来，开始施行惨绝人寰的“三光政策”，他们把村民全部赶出村庄，用绳子把他们绑成一串，往村口押去。顷刻间，祖祖辈辈生活的家园便淹没在一片火海之中。谁也没想到，日寇竟把绑在一起的男人押到村口一口水井边，逼着他们一个个往下跳。百姓不从或反抗，便遭来日寇一顿毒打。他们用铁蹄和枪托强行往井里踢、踹、打，最后是连推带扔硬给一个个塞入井里。为了防止上边的爬出来，鬼子又四处找来大石块压在上面，水井填满后，剩下的百姓一个也不放过，被敌人用机枪扫死。
这一灭绝人性的惨状和孩子、妇女的哭喊，老人的惨叫，青壮年人的怒骂声，都映入潜伏在狼牙山上的第1军分区指战员的耳目里，一种难以名状的刻骨铭心的仇恨火焰旋即在他们胸中升腾、燃烧，热血直往上涌，他们真想立即冲下山去解救百姓，消灭那帮畜生。可是，如果轻举妄动，山上近4万人的生命也会难保，那样敌人就会达到把我们一网打尽的企图。
据后来了解到，南、北淇村的村民“除少数乡亲在民兵的掩护下逃出敌人的魔掌外，大部分男女老幼都惨死在日军的屠刀下。敌人除了惯用的残忍手段外，又增加了开膛破肚、刀铡、大卸八块、剜心挖眼、活剥皮、喂洋狗、点天灯、滚水汤、毒气熏、逼乡亲跳井等，尤其对妇女和儿童用尽一切野蛮手段，甚至用带钉的皮鞋踩烂婴儿的脑瓜，再顺手撕开两条细腿，扔到其母亲的面前……”
9 狼牙山五壮士
南、北淇村发生大惨案的消息，很快传到了距狼牙山不远的第1军分区的司令部。
杨成武强按住心中的怒火，告诉大家：“各部队要多加小心，日军近期肯定还要在狼牙山地区有所行动。我们要化悲痛为力量，抓住时机，为乡亲们报仇！”
果然不出杨成武所料，塘湖日军的先头部队刚刚占领南、北淇村，主力就紧跟着倾巢而出了。由于有熟悉当地地形和情况的伪军带路，日军开进速度极快。
杨成武立即布置全军分区的反“扫荡”工作，然后，带领机关主力从周庄经上、下隘刹向西转移。在转移途中，杨成武得知：敌人已经拉上一张巨网，把整座狼牙山包围了。
9月24日中午，司令部转移到了离狼牙山两日路程之外的张家庄。一到张家庄，杨成武立即架线向被包围在狼牙山上的1团团长邱蔚了解情况。
邱蔚在电话里焦急地说：“司令员，我们和敌人已展开战斗，从早晨打到现在，敌机轮番轰炸、扫射。山上被围的除了我们1团外，还有易县、定兴、徐水和满城4个游击支队和4个县的党政机关人员，以及狼牙山周围村庄的群众，合计约4万人。现在突围的难度很大，我们正在想办法。”
杨成武吃了一惊，原先他以为易县、定兴、徐水和满城等4个游击支队边打边退，是会撤进狼牙山的，一些地方干部和群众也会在反“扫荡”中进入狼牙山隐蔽，但没想到人数竟多达几万。他想了想对邱蔚说：“现在4个游击支队归你统一指挥，无论如何，要把敌人顶住，绝不能让群众受到损失。你要随时报告情况。我们立即开会研究方案，尽快给你们解围。”
放下电话，杨成武立即找来高鹏、黄寿发、罗元发等军分区领导。几人一商量，首先要尽快摸清敌人此次进攻的情况，然后再根据实际情况寻求解围方案。
时间不长，各情报站纷纷汇报了有关情况：1941年9月24日清晨，3500多名日军带领少数伪军兵分9路，同时进攻狼牙山。他们在日本侵略军山地指挥官高见的率领下，堵住了山口，在所有进出道路上都布置了重兵，有飞机、大炮的掩护。狼牙山的形势越来越危急了。
“敌人来势凶猛！强行突围可能效果不佳。”杨成武对高鹏等人说道，“我们现在最好的方法是引开一部分敌人，留下一道口子，再让邱蔚趁机下山。”
“这样可以。”众人表示赞同。
杨成武想了想，拿起电话，接通了邱蔚：“现在整个情况已经明了。我们决定调集3团和20团的全部兵力，从上、下隘刹和岭西打出去，猛攻管头、娄山、松山和周庄一线的敌人，让敌人误认出我们的主力要同他决战，从而把九莲山和碾子台那一路的敌人吸引过来。这样就会空开数公里长的一个口子，你们要时刻关注这一路的情况，一有机会，尽快下山。”
情况正如杨成武所料，3团和20团的进攻刚刚开始，九莲山和碾子台一带的敌人就立即扑了过去。一个口子张开了。
此时正是深夜，秋风呼啸。
邱蔚匆匆将1团7连留在狼牙山上担负掩护任务，自己则带着各游击支队、机关干部和群众开始转移。他们沿着秘密的盘陀路，悄悄地向口子走去。
杨成武焦急地等待着邱蔚的消息。过了很长时间，他终于接到了邱蔚的电话：“司令部吗？我们全部都跳出了日军的包围圈。至今敌人还没有发现我们。”
“好！”杨成武立即命令3团和20团，“撤退！”
被困在狼牙山的大部队和群众顺利脱险了。
担任后方掩护的第1团第7连第2排完成任务后，已来不及摆脱敌人。其第6班班长马宝玉、副班长葛振林和宋学义、胡福才、胡德林，奉连长之命，为了掩护排主力撤退，毅然把敌人引向了棋盘坨。他们连续打垮了敌人4次冲击，歼敌90余人。经12小时激战，直至把地雷炸完，子弹打光，把最后一颗手榴弹投向敌群，把枪支摔断后，高喊：“打倒日本帝国主义！”“最后的胜利是我们的！”高呼完口号后，一齐跳下深谷。马宝玉、胡福才、胡德林殉国，葛振林、宋学义被山腰树丛托住，由群众抢救脱险。这就是人们广为传颂的“狼牙山五壮士”。
“狼牙山五壮士”的英雄事迹很快传遍了第1军分区，传遍了晋察冀抗日根据地。
聂荣臻在晋察冀军区的一次会议上，高度评价了“狼牙山五壮士”的英雄行为。他说：“在他们身上，体现了中国共产党领导的人民军队的优秀品质，体现了中华民族的英雄气概，我们要继续下去，发扬光大。”
日军华北方面军在晋察冀及其邻区晋西北、太行、太岳、冀鲁豫抗日军民的打击下，被迫于9月24日下令撤退。26日，“扫荡”晋察冀抗日根据地的日伪军，部分撤退到方代口、灵山、定县等地。但其并不甘心“扫荡”的失败，采取边撤退、边合击的办法。
为此，晋察冀军区决定：集中主力在地方部队和人民群众的配合下，大量杀伤日伪军有生力量，迅速逼其撤退。各部队分别在完县山阳庄，盂县赵家岔、七里河，井陉黑水坪、米汤崖，平山、黑山等地袭击、伏击敌人。至10月17日，“扫荡”的日伪军基本撤退。
10 对日展开心理战
1941年12月中旬，根据中共中央和八路军总政治部的指示，聂荣臻发布了开展对敌政治攻势的训令。各部按训令要求，派出30多个武装宣传队，在人民群众的密切配合下，深入敌占区，历时40天，散发宣传品130多万件，召开伪军和伪组织座谈会250多次，产生了重要影响。1月寨北村高干会议后的3月间，他又发布了第二期政治攻势的训令。
训令要求各部像上次宣传攻势那样，派出武装工作队，深入日军占领区，散发宣传品，召开群众大会，还可以继续利用关系，召开伪军、伪政权组织人员及其家属的座谈会，宣传太平洋战争爆发后，日军陷于孤立必败的境地，晓以中华民族不屈不挠抵抗外侵的历史传统，以动员敌占区人民，和被胁从的伪军政人员，发扬爱国主义精神，同仇敌忾，帮助边区军民的对敌斗争。
这两次政治攻势，声势浩大，拉开了向“敌后之敌后”挺进的序幕。各部先后派出由几十名到上百名武装人员组成的武装工作队60多支，在人民群众的帮助掩护下，顺利越过敌人的封锁线，携带数以百万计的宣传品，针对不同对象进行工作。如对日军的宣传品，都是由“在华日本人反战同盟晋察冀支部（由日军被俘人员中的进步分子组成）”“华北朝鲜独立同盟边区分盟”“朝鲜义勇军”的成员设计拟制的。