抵达大营镇后，林彪带着参谋人员实地考察了平型关一带的地形，基本与地图上所绘相符。十几天来，他一直在苦思良策，一张军用地图被他画得面目全非。他已数次致电毛泽东和八路军总部，要求在平型关寻机歼敌。现在他亲临现场，看到这一带山峦相连，谷深坡陡，更坚定了他在平型关与日军大战一场的决心。
平型关位于山西东北部古长城上，自古以来就是晋、冀两省的重要隘口。关内关外，群山峥嵘，层峦叠嶂，沟谷深邃，阴森幽静。关前有一条公路，蜿蜒其间，一直通向灵丘、涞源，地势煞是险要。这是日军侵占平型关的必经之路。尤其从关前至东河南镇之间的十余里一段，沟深道窄，沟底通道仅能通过一辆汽车。路北侧山高坡陡，极难攀登；路南侧山低坡缓，易于我军部署兵力、发扬火力，是伏击歼敌的理想战场。
林彪放下望远镜，头脑里盘算着，许久，一条“十里埋伏”之计油然而生。
他取出纸笔，将公文包铺在膝盖上，亲自给八路军总部及中央军委起草一份文电：
关于一方面军目前行动方针，我意不只陈旅应在现地域协同友军作战，师直及徐旅亦应以同样任务而靠近，陈旅暂时不应以做群众工作为中心任务而进驻阜平，因为：1.目前敌正前进中、运动中、作战中，为我进行运动战之良好机会，我友军目前尚有抗击敌人之相当力量，为能得到友军作战之良好机会，现地域为山地，乃求山地战之良好机会。倘过此时机，敌已击破友军通过山地，并进占诸主要城市时，即较难求运动战、山地战及友军配合之作战。
2.目前军民正在看我军直接参战，如我参战兵力过少，则有失众望。
3.兵力过少，则不能将以绝对优势兵力消灭敌之一部。
4.目前须以打胜仗、捉俘虏，提高军民抗战信心，提高党与红军威信，打了胜仗更容易动员群众与扩大红军。
5.目前如集中1师以上兵力于窄狭区域求战，当然是不妥的，用不开的，但以1师以下兵力则是需要的，用得开的。目前第一仗应以集中约1师的兵力为好，待尔后客观情况上已失去1师兵力作运动战之可能时，再分散做群众工作和游击。
林彪
起草好电文，林彪命机要员先给聂荣臻发电，让聂督率第一一五师二梯队火速向平型关东南的上寨地区机动，再将他刚刚起草好的电文发出。
机要参谋接过电报，提醒道：“师长，总部电令我们分兵去阜平发动群众，这……”
林彪起身，拍拍身上的泥土，说道：“要打仗，分不出兵，让罗主任把政治机关的人带去就行。”“没部队撑腰咋行？”参谋再次提醒道。“嗯，那就让骑兵营护送。”林彪慢条斯理地说，“反正这一仗也用不上骑兵。”决心已下，林彪命令第三四三旅由大营镇前出至上寨地区隐蔽集结，并进行战前准备。箭已上弦，一场恶战即将拉开大幕。接到林彪的电报，聂荣臻率师指挥部、徐海东的三四四旅和杨成武的独立团迅速向上寨开进。他们绕向五台山的山间小路前进，没走代县、繁峙一带比较顺的那条大路。因为那条路上国民党败退的军队一帮接着一帮，堵塞着道路。聂荣臻担心他们大量散布的失败主义情绪会影响到我军的士气，为了摆脱这些溃兵对部队情绪的影响，聂荣臻决定避开他们。
一路所见，令人心寒。群众情绪惶恐，村庄冷冷清清，想从村里找一个向导，或是找人打听前边的情况都非常困难。他们先经过五台，又沿着崎岖的山路穿过龙泉关，从阜平北面的丁家庄插到了平型关东南的上寨镇。
见到林彪以后，聂荣臻告诉他部队都带上来了，问他前边的情况怎么样。林彪说，敌人的大队人马正向平型关方向运动，这里的地形不错，可以打一仗。他摊开地图，同几位参谋一起把平型关周围的地形和初步的作战设想介绍了一遍。
“老聂，这是个大仗呀，打不打？”“既然天时地利人和具备，机不可失，为何不打？”聂荣臻反问道。“我们可能没有时间向军委和总部请示了。我担心……”林彪微蹙浓眉。其实，先斩后奏是林彪的一贯作风。他要打的是运动战不是游击战。
他真正担心的是毛泽东的态度。聂荣臻看出了林彪的心思。他的脑海里闪现出洛川会议上林彪与毛泽东的争论。但洛川会议定下的方针也包括“不放松有利条件下的运动战。“老林，战机稍纵即逝。好打就打，事事请示，就会贻误战机。”聂荣臻明白，对于这样的作战计划，前线指挥员有权根据情况决定，只要事后报告一下就行了。中央军委和八路军总部并不十分清楚前线的具体情况，特别是进行游击战争，敌军怎么样？地形怎么样？上午打了，下午就有可能要离开，事先请示也不可能。
稍停顿一下，聂荣臻又说：“我们没有与日军交战的经验是事实，作战时什么事情都可能发生，打仗没有不冒险的，只要有六七成胜算就可大胆一战。”
“这一仗我看有八成把握。”林彪对自己的军事才能向来很自信。“既然有八成把握就要下定决心，坚决打！”聂荣臻继续给林彪打气，“居高临下伏击敌人，这是很便宜的事，现在不是打不打的问题，而是怎么才能打好的问题。这是我们同日本侵略军的第一次交锋，全国人民都看着我们，这个仗必须打好，打出八路军的威风来，给全国人民的抗日情绪来一个振奋！”“好吧，下午召集全师连以上干部开会，你给动员动员。”林彪习惯性地划燃一根火柴，又轻轻吹灭，他喜欢闻火柴熄灭那个瞬间的那股硝烟味道。他在红军大学里任校长一年半，已经很长时间没闻到战场上的硝烟味了。
9月23日中午，八路军第一一五师连以上干部齐集于上寨村的一所农家小院里，由师首长进行战前动员。林彪首先介绍了敌情，分析了首次与日军作战可能出现的各种情况。
当时，林彪还不知道由广灵向平型关猛插过来的日军的番号，直到平型关大战结束，从缴获的日军文件中，才知道他的对手是第五师团之一部，其师团长正是坂垣征四郎。坂垣师团的武士道精神很强，在日军里面有些名气。坂垣之所以选择平型关作为迂回的路线，因为他清楚这里是山西与河北交界的地方，是个比较薄弱的环节。他自率军进攻华北以来，遇到的都是不战自退的国民党军队，因此气焰骄纵得很。他有个错误的估计，以为我军不可能这样快就东渡黄河，根本没有估计到在他眼皮底下会有一支严阵以待的八路军队伍。
林彪讲完，聂荣臻作政治动员。他特别强调了八路军出师抗战第一仗的重大意义：“这一仗必须打胜，打败了或者打个平手都不行！党中央和全国人民都在盼望八路军第一个捷报！……”
坐在台下的杨成武在几十年后还清楚地记得当时的情景：那天天气很热，近百名干部聚集在一个小院子里，军装都汗湿了。
墙角有个大水缸，边上放着几个粗瓷碗，谁渴了可以去舀凉水喝。但大家静静坐在台阶、泥地、破砖上，任凭汗水往下淌，没人走动。他们聚精会神地听着聂政委的讲话，生怕漏掉一句，眼中却不时地闪现着严肃而兴奋的神采。
由于时间紧迫，会议很快就结束了。这时营、连干部“轰”地一下围住水缸，互相拥挤着，发出响亮的“咕咚咕咚”咽水声和舒畅的喷嚏声，然后一个个说笑着大步赶回驻地。等我挤过去喝水时，那口水缸已快见底了接着，各团的领导干部聚集在一起，受领各自的作战任务。林彪开始点将：“杨得志。”
“到！”杨得志霍地站起。“你们六八五团埋伏在老爷庙西南至关沟以北高地，这是袋底。都说你杨得志是一员虎将，可不要让敌人把口袋捅漏了。”
“保证完成任务！”杨得志响亮地回答。这位刚刚从陕北红军大学这所“窑洞大学”毕业的著名战将，被聂荣臻亲自要到六八五团担任团长。他出发时部队已过了黄河，他是在侯马才追上队伍的。
“六八六团埋伏在小寨村至老爷庙以东高地，战斗打响主要靠你们勇猛杀敌。嗯，李天佑能打仗。你们要将敌人在沟底斩成一段一段，分割歼灭。敌人火力猛，但只要大胆接敌，敢于白刃战、肉搏战，与他们搅在一起，敌人纵有坦克、大炮也发挥不出作用，飞机来了也不管用。”
“是！”李天佑挺了挺胸。“六八七团埋伏在西沟村至蔡家峪以南高地，断敌退路，并阻击由灵丘和浑源方向来援的日军。要注意，待敌全部钻入口袋后再掐住袋口。”稍顿一下，林彪接着说，“如果敌人没有发觉我们，打响的顺序最好是六八五团先开火，再六八七团，最后是六八六团。六八八团留做师的预备队，随时准备投入战斗。”主力团的任务吩咐完毕，林彪叫起了杨成武：“你们独立团要大胆深入敌后，隐蔽穿插至腰站一带，准备阻击灵丘和涞源增援之敌。我们伏击能否获胜，关键在于独立团堵不堵得住敌人的援兵。所以，你们必须全力以赴，死死顶住敌人，绝不可放过一兵一卒。”
杨成武应道：“保证完成任务！”见林彪部署完毕，聂荣臻站了起来，对大家叮嘱道：“可不能拼消耗噢。将来还要开辟根据地，和日军长期作战。头一仗倘若把你们的本钱打完了，那以后的日子就不好过了！”他换了一种口气，“不过，我相信你们会打好的。”