李先念高举抗日大旗，奔赴中原抗日新前线，开始在敌后纵横驰骋，反击侵略，仅仅一年，就在武汉外围立住了脚跟，打开了局面，开启了中原敌后抗战的伟大斗争。
1937年底李先念到达延安，先后在抗日军政大学、中共中央马列学院学习。1938年10月，日军相继攻占广州、武汉，抗战进入相持阶段，中共扩大的六届六中全会，确立党的工作重心放在战区和敌后，大力巩固华北，发展华中。会后，成立了以刘少奇为书记的中原局。1938年11月李先念被任命为中共豫鄂边区省委军事委员会副主任、军事部长。
1939年初，李先念率领160余人的新四军独立游击大队自河南竹沟南下，进入豫鄂地区，深入敌后，会合和聚集中共领导的零散武装力量，认真贯彻党的抗日民族统一战线的策略路线，独立自主地开展游击战争。
李先念从竹沟南下后，首先面临的就是扩大武装的问题。试想单凭160余人的武装如何在错综复杂的后方立足？无论对于谁，这都是一个严峻的考验，因而李先念十分重视武装建设。于是，在没有主力部队作骨干和同其他战略区域相隔绝的情况下，李先念以“滚雪球”的方式，先后会合和聚集了由共产党领导的分散在豫南、鄂中、鄂东等地区的武装，于1939年6月成立了新四军豫鄂独立游击支队，公开打出新四军的旗帜。
11月中旬，又将豫鄂边、鄂豫皖、鄂中的抗日武装力量统一整编为新四军豫鄂挺进纵队，李先念相继担任支队、纵队司令员。挺进纵队的建立，标志着中原地区形成了具有重要意义的独立战略单位，同时也提供了在特殊艰难的敌后缔造党的武装力量、发展敌后游击战争的宝贵经验。对此党中央给予了高度评价：挺进纵队的建立，是一个伟大的成绩，并证明在一切敌后地区的党均可建立武装，而且可以存在和发展。
在创建革命武装的同时，李先念始终高擎抗日大旗，以灵活机动的战略战术，在敌后坚持抗战，创建根据地。在一年多的时间里，进行了大小战斗136次，平均每三日即与敌战斗一次，共毙、伤、俘日军1700余名，伪军3500余名，伪军反正和投降者2000余名，缴获大小炮等武器弹药无数。
从南下第一天起，李先念便在兵力十分弱小的情况下，毫不退缩，同日伪军进行了英勇无畏的战斗，1939年2月下旬，他率领仅160余人的新四军独立游击大队，在应山余家店与伪军200余人激战数日，击退日伪。7月以后，他指挥豫鄂游击支队，机动灵活地对日伪展开了一系列作战，先后进行了花园附近的憨山寺对日军车队的伏击战，越家棚三昼夜的反扫荡战，以及重创日军，使新四军威名远播的新街战斗。
1940年2月，他又亲率部队南渡襄河，进攻汉阳侏儒山伪军汪步青部，毙俘敌120余人，直叩武汉西大门，震动了武汉，日寇宣布戒严三日。5月，当日军对国民党正面战场发动进攻，襄樊、宜昌相继失守时，李先念率纵队主力从鄂东返回平汉路西作战略展开，进军白兆山，控制战略枢纽平坝。7、8月间又继而渡过襄河，开辟襄西根据地，有力地牵制了日军，支援了正面战场的抗战。
在抗战同时，李先念还抓住有利时机，与国民党顽固派展开针锋相对的斗争，同兄弟部队一起，粉碎了国民党顽固派发起的第一次反共高潮。从1940年1月至4月，李先念指挥纵队主力发起了大小悟山战役，连续还击国民党顽固派程怀汝部，控制了大小悟山，配合了华东新四军的反顽斗争。毛泽东对李先念纵队反对顽固派向鄂中和鄂东进攻的自卫战争作出了充分肯定的评价，认为“不但是绝对必要和绝对正确的”，而且还支持了其他地区的反顽斗争。第一次反共高潮被粉碎后，顽固派的反共挑衅并没有停止。6月2日，当桂军第七军和鄂东顽军1940年李先念在豫鄂边抗日根据地。分数路进攻大小悟山时，李先念一方面于6月20日通电全国，向他们提出强烈抗议，揭露国民党顽固派的血腥罪行，一方面率纵队主力，对顽固派的进攻给以坚决反击。
在从事武装斗争的同时，李先念还十分重视根据地的创建工作，1940年9月1日，豫鄂边区党委在京山八字门召开第一届军政代表大会，李先念、陈少敏等参加了会议，会议选举产生了边区最高行政机关——军政联合办事处，标志着边区抗日民主根据地的正式形成。
从1939年初到1940年底，在不到两年的时间内李先念以其大智大勇，开创了中原敌后抗战的新局面。在敌后建立了一个控制14个县、500万人口、共产党领导的正规抗日武装近1.5万人、民兵10余万的根据地。这为中国共产党在具有重要战略意义的中原敌后抗战发挥主导作用奠定了坚实的基础。
从1941年初到1942年底，李先念率部打退国民党顽固派发动的第二次反共高潮，创建了新四军第五师，在错综复杂的敌伪顽我“三角斗争”中，运用灵活机动的战略战术，不断发展壮大自己。
1941年1月，蒋介石制造了震惊中外的皖南事变，第二次反共高潮达到顶点。同时调动近10万兵力，妄图于4月底消灭新四军豫鄂挺进纵队，摧毁豫鄂边区抗日民主根据地。面对险恶形势，李先念处乱不惊，运筹帏幄，做出周密的战略部署，还击国民党顽固派的进攻。1月23日李先念以新四军豫鄂挺进纵队司令员的名义发布了《粉碎国民党反共军队的新进攻》的命令。按照战略部署，于2月中旬至4月初，发动了大小悟山战役，大小悟山根据地失而复得。接着又反击了五战区顽敌第四游击纵队，恢复了罗礼边根据地。然后又反击了五战区顽敌第一游击纵队，收回了四望山根据地，稳定了豫南局面。
皖南事变期间，中共中央革命军事委员会于1941年1月26日发布重建新四军军部的命令，并统一整编华中部队，新四军豫鄂挺进纵队被整编为新四军第五师。2月28日，中共中央军委任命李先念为新四军第五师师长兼政治委员，五师共1.5万余人，他指挥部队跳跃回旋，多次挫败日伪军的“扫荡”、“蚕食”。12月，太平洋战争爆发，武汉日军频繁调动。李先念抓住时机，指挥主力一部历时两个半月，发起了侏儒山战役，歼灭日伪军5200余人，解放了(汉)川汉(阳)沔(阳)地区，震惊了武汉日军。
1942年春，蒋介石命令第五战区加紧反共的军事活动。从5月1日起，国民党军先后以12个正规师，4个保安团，11个游击纵队和5个独立支队计10万之众杀气腾腾地向边区扑来，掀起了长达8个月的反共高潮。另外日伪军也频繁“扫荡”，与此同时边区经历了连续两年的自然灾害，边区财政经济和军民生活异常困难。面对这种敌顽夹击和生活困难的空前紧张局面，李先念以一种无产阶级军事家的智谋和胆略，指挥五师将士，展开了英勇的斗争。
首先，李先念和边区党委提出了“咬紧牙关，熬过困难，沉着应战，坚决自卫”的方针。在战略指导思想上，确定避实就虚，把主力部队适当分散隐蔽，配合地方武装，灵活机动地开展游击战，尔后再集中兵力，突然袭击，打击敌顽。6月5日，李先念指挥部队进行了圣场战斗，歼灭了来犯的国民党顽军暂一师第二团，有力地保卫了边区，并鼓舞了边区军民。7月国民党顽军继续向边区根据地中心推进，形势十分危急。7月21日，中共中央决定：五师由中央军委直接指挥。这时，李先念根据形势发展需要，果断决定主力部队暂停与顽军进行大规模战斗，派一批精干去顽后袭扰牵制顽军，同时以相当大的主力向鄂南发展，把鄂南建成一个独立战略单位。8月，他把根据地划分为五个军分区，要求各分区独立坚持辖区内的游击战争。
12月15日伪军1万余人，从东西两面共分14路向根据地中心、五师领导机关所在地大悟山进行“铁壁合围”，妄图全歼五师主力。这时李先念又显示出了他那临危不乱，纵横挥阖的高超指挥能力，他根据敌人的弱点，冷静思考，仔细分析，部署第一第二军分区部队在鄂中、鄂东袭扰敌据点，配合主力反“扫荡”作战。