从1938年3月起，宋任穷开始了他在冀南抗日第一线血雨腥风、出生入死的平原游击岁月，直至抗战胜利。宋任穷用自己的行动，赢得了冀南人民无限的爱戴与敬仰，当地人民曾这样称赞道：“冀南名将点几名，头名要数宋任穷！”
冀南，泛指河北省南部。西临平汉铁路，东接津浦铁路，北边靠沧州至石家庄公路，南边跨漳河。冀南西临太行，东临山东，是连接山西和山东两省的纽带和桥梁，地理位置十分重要。“七·七”事变后，冀南平原铁路沿线的城市很快沦陷敌手。日军所到之处，疯狂地烧杀抢掠，制造了一起起骇人听闻的惨案，冀南人民生活在水深火热之中。
为了迅速创建冀南平原抗日根据地，1938年初，129师组建由陈再道任司令员、宋任穷任政委的“八路军东进抗日游击纵队”（简称东进纵队或东纵）挺进冀南，此后，宋任穷在冀南这片热土度过了整整8年战斗时光。
东进纵队开赴冀南不久，根据冀南抗战形势的迅速发展，为进一步加强军事力量和领导力量，刘伯承又派宋任穷带着一个骑兵团、一个独立支队和一个机枪连开赴冀南。骑兵团是由原红军15军团骑兵团和陕北红军的部分骑兵编成的，改编为八路军时是骑兵营，后发展成骑兵团。
当时，冀南地区出现了很多打着各种旗号的武装。根据中央军委和129师首长指示，宋任穷积极争取、收编、改造各色武装，以及许多县区的保安队等，为了安定冀南社会秩序，对有些作恶多端顽固不化的惯匪决不手软，坚决打击消灭之。从1938年初宋任穷率东纵到冀南，短短几个月的时间，共争取、收编、改造各类武装近万人，极大地充实和壮大了八路军在冀南的作战力量。
帮助冀南地方党建立各级抗日民主政权，是宋任穷开进冀南平原的重要任务，这对加速根据地的创建、安定冀南的混乱局面至关重要。因此，宋任穷刚到冀南，一手抓武装建设，一手抓政权建设，动员组织千百万群众投入到伟大的抗日战争中。东纵进入南宫县后，首先建立了南宫县抗日民主政府，以南宫为中心向四周各县发展，收复一地或一座县城，就组建“战委会”或建立抗日政府。那时宋任穷带领的干部不多，他就采取“放县长”的办法，占领一座县城就召开群众大会，派一名干部当县长，县里的其他干部就由当地群众担任。随着抗日民主政权的建立，各群众抗日救亡团体也先后成立，群众都被发动起来了，形势发展很快。虽然日军占领了平汉铁路和津浦铁路沿线的一些大中城市，然而内地的一些县城在八路军手里。宋任穷率部开进冀南地区不长时间，就收复了20多座县城。
1938年8月，129师政委邓小平由太行到冀南检查指导工作，此时宋任穷抵达冀南刚刚半年左右的时间，邓小平看到各地的党组织已普遍恢复和建立，非常高兴，他传达了中共中央北方局和八路军总部的指示，决定撤销冀南军政委员会筹委会，成立冀南行政主任公署（简称冀南行署），由杨秀峰任主任，宋任穷任副主任。冀南行政主任公署的成立，标志着冀南有了我党统一领导的抗日根据地政权，冀南平原游击战争进入了一个新的阶段。广大人民群众得知这一消息后，掀起了参加八路军的热潮。出现了许多“父送子、妻送郎，参军打东洋”的动人场面。
12月，刘伯承、邓小平率129师主力部队从太行来到冀南。宋任穷向刘、邓汇报冀南的情况，说到冀南民众抗日情绪之高、对敌仇恨之深时举了两个例子，一是某些天主教徒在教堂做礼拜时，他们祷告：“保佑抗日军、保佑八路军，抗日军打胜仗、八路军打胜仗……”，二是有些老太婆也祷告我军打胜仗，还有的用白面粉做成小人，放在锅里煮。她们把小面人当成小鬼子，说：这么一煮，日本鬼子就不得好死。这些活动虽然带有一些迷信色彩，但却充分反映了人民群众的爱憎之情和人心向背。刘伯承听后笑容满面，非常高兴地称赞宋任穷在冀南把群众基础打得牢固，老太婆尚能如此，其他人就可想而知了。