抗日战争中，刘伯承任八路军一二九师师长，率部挺进敌后，开辟根据地。先后在神头岭、响堂铺大败日军，并粉碎了日军的九路围攻，巩固和扩大了抗日根据地。
八年抗战，刘伯承和邓小平率部奋战在太行山抗日根据地。这时的刘伯承遍体弹痕，九处负伤。
刘伯承(右三)与朱德(右四)、邓小平(左二)、聂荣臻(右一)、罗瑞卿(右二)等在一起。但是，这位“遍体弹痕余只眼”的刘伯承，在日顽勾结，虎狼夹击的艰苦岁月中，始终挺立在太行山上。他前门打虎——指挥部队一次次设伏，一次次急袭，连侵华日军也惊叹，称这是“支那第一流游击战术”。他后门拒狼——和邓小平一起多次会见专搞反共磨擦的国民党顽固派军队将领，先晓之以理，后予之以力，粉碎了国民党顽固派的一次次进攻，牢牢地把紧太行山这道华北抗日根据地的“南大门”。
1937年7月，全面抗战爆发，根据中共中央和中革军委的任命，刘伯承被任命为中革军委委员、国民革命军第八路军第一二九师师长兼军政委员会书记，徐向前任副师长，张浩为师政训处主任。全师1.3万人，除一部分驻留防陕甘宁边区外，近1万人加紧休整，待命出征。
9月6日，第一二九师举行出征誓师大会，刘伯承在发言中概述了全国及华北的抗日形势。提出：华北是敌我势在必争的战略要点，恶战是免不了的。紧接着，他又说：经过我们共产党的努力，抗日民族统一战线建立起来了，我们共产党人要把祖国和人民的利益看作最高的利益。现在，大敌当前，国家和民族危在旦夕，我们要把主要矛头指向日本帝国主义。为了抗日救国，挽救国家和民族的危亡，我们要把主要阶级仇恨埋在心里，跟国民党合作抗日。随后，他强调了红军改编的意义，并带头更换了军帽、军服。阅兵毕，刘伯承回到检阅台上，带领大家举手宣誓。“为了民族，为了国家，为了同胞，为了子孙，我们只有抗战到底!”“不把日本强盗赶出中国，不把汉奸完全肃清，誓不回家!”“严守纪律，勇敢作战”，“不侵犯群众一针一线，替群众谋利益，对友军要友爱，对同志要忠实”。刘伯承领读着，指战员复诵着，这庄严的誓词化作气吞山河的声浪，此起彼伏，显示了全师将士同仇敌忾，万众一心的坚强意志。
9月中旬，中革军委命令刘伯承率部东渡黄河，挺进到晋东南建立以太行山为依托的抗日根据地。30日，刘伯承率领先遣队首先从庄里镇出发，以便在师主力到达前了解和掌握敌、我、友情况，保证及时进行作战和开展工作。10月1日，陈赓率第三八六旅出发跟进。10月2日，张浩率师后梯队也启程了。刘伯承率先遣队抵达黄河渡口芝川镇。根据船只数量和两岸渡口容量，他安排陈锡联率两个营先渡，其余人员由他率领随后，他还规定各部下船次序，严令不准丢弃任何装备器材。在侯马火车站，他为了抢时间，命令战士们把漏水的火车头推到汾河附近，在铁路工作和居民百姓帮助下，用一切可使用的盛水用具给车头加满水，牵引着车厢向太原进发。
随后，他指示先遣队指挥员抓住战机，主动歼敌。首战可小，但必须告捷。结果部队夜袭阳明堡，烧毁敌机20余架，歼敌百余人，摧毁了忻口日军重要的空中支援，有力地配合了国民党军队作战。11月13日至14日，刘伯承在顺县石拐镇全师党员、干部会议上，传达了毛泽东和八路军总部的指示和决定，宣布全师化整为零，迅速分兵到各地活动。每个团的各营都要抽出一个连，组成工作团或游击支队，到指定地点同中共地方组织、游击队一起工作，发动群众，开展敌后游击战争。第一二九师在刘伯承等率领下，就这样由陕北挺进华北敌后，开始了扎根晋冀豫的斗争。
1938年1月，师政委张浩因病返回延安，遗职由原八路军政训处(后改为政治部)副主任邓小平继任，从此，刘伯承和邓小平并肩战斗长达13年之久。
3月中旬，长生口战斗结束后不久，刘伯承又寻找战机，确立了新的作战方案。即根据总部第一二九师进攻东阳关至潞城一线敌人的指示，袭击黎城，吸引该城东面涉县、西面潞城守敌出援而予以途中伏击。以第七六九团为左翼队，其一部袭击黎城，主力伏击涉县援敌，第三八六旅3个团为右翼队，在神头村附近伏击潞城出援之敌。
3月16日凌晨，左翼队一部袭入黎城城关，守敌一边固守，一边向涉县、潞城告急求援。潞城援敌1500余人，未觉察我军作战意图，坚持向黎城进援。当敌军行至神头村休息时，伏击部队枪炮齐鸣，指战员们从工事、沟坎边一跃而起冲进敌群，在纵深埋伏的指战员们也源源不断地冲上神头岭。他们把刘伯承指导过的几套的近距离搏击的动作全用上了，用枪打头，用刀矛刺胸，用手榴弹炸屁股。经过两个多小时激战，日军基本被歼，仅有百余名日军突围逃回潞城。这一仗共毙伤日军1400余人，缴获长短枪300余支，抓获俘虏80多名。神头岭，变成日军丧魂落魄的“伤心岭”。
不久，日军调集重兵对八路军第一二九师发起九路围攻。来势汹汹，寻我主力决战。刘伯承和徐向前、邓小平审时度势，制定了以一部兵力钳制日军，其他各路集中主力击破其一路的作战方针。4月15日夜，他们发现段村和武乡城里的日军第一一七联队，由于白天长途行军疲惫已极，但又怕被歼，遂连夜转移。刘伯承得知这一良机，毫不犹豫地下达了追击命令。
由刘伯承等指挥的运动追击战在复杂的地形上开始了。次日早晨，第三八六旅在长乐村附近追上逃敌。旅长陈赓不失时机地下令向行进在狭窄河谷里的日军发起攻击，指战员们英勇作战，很快就分割了敌人。已走出长乐村的日军发现后部遭到袭击，遂掉头解围，企图攻破长乐村口的我戴家垴阵地，接应受困之敌。刘伯承接到报告，急令陈赓抽出一个连坚守。某部十连奉命坚守4个多小时，与10倍于己的日军血战，最后，全连指战员壮烈牺牲，阵地失守。这时，第六八九团跑步赶到，一个勇猛冲锋夺回阵地，牢牢地坚守。但是，由于国民党军队阻援不力，蟠龙及辽县方向的敌军陆续赶到，战况更加激烈。刘伯承认为继续消灭援敌已无可能，当务之急是巩固胜利果实。于是，他命令两个连分散开来打游击，从侧翼阻击、迷惑日军，掩护主力撤退。此次战斗毙伤日军2200余人，缴获步马枪100余支和大批军用物资。战斗后各路日军纷纷回窜，八路军各部和国民党友军乘胜追击，机动作战，终于粉碎了敌九路围攻。
鉴于日军抽调华北兵力，集中力量进攻徐州，中共中央和毛泽东指示八路军总部和第一二九师迅速向平原分兵，“在河北、山东平原地区应坚决采取尽量广泛发展游击战争的方针，尽量发动最广大的群众走上公开的武装斗争。”4月23日，刘伯承和徐向前、邓小平召集全师团以上干部会议，传达党中央和八路军总部的指示，布置行动。刘伯承宣布：由副师长徐向前率第七六九团、第六八九团及第五支队开赴冀南。陈赓率第三八六旅主力进至平汉路两侧冀豫地区，相机向豫北发展。旅政委王新亭率七七一团两个营进至平汉路东侧永年、肥乡、成安一带。陈锡联、谢富治率第三八五旅(新组建)主力，继续活动在正太路以南、平汉路以西地区，并相机分兵向石家庄以东发展。此前，陈再道率领的八路军东进抗日游击纵队和宋任穷率领的师骑兵团已先后进入冀南地区。5月，刘伯承和邓小平见兵出平原的中路突进顺利，便及时派出两翼部队。三支部队互相配合，纵横驰骋于冀南地区，实现了党中央开展河北游击战争的预想。
不久，由于国民党顽固派破坏，冀南地区斗争也日益公开化，而日军也趁机发动全面“扫荡”。刘伯承决定再赴平原地区，直接指导该地区斗争，扭转鲁西北的局势。