百团大战经历了3个阶段：两个主动进攻和一个防御反“扫荡”阶段。
第一阶段8月20日至9月10日，主要任务是开展以铁路线为主摧毁正太路的交通破击战。第二阶段9月22日至10月5日，重点转向破击铁路两侧、日军深入到抗日根据地之公路、据点。第三阶段10月6日至12月，日军调集大量军队对华北进行报复性“扫荡”，八路军开始艰苦反“扫荡”。据统计，百团大战参战日伪军35万，八路军参战的还有地方武装、民兵和人民群众共20余万人。在兵力上，日军与八路军的兵力对比为1∶1。
（一） 第一阶段大获成功，国人庆贺（8月20日至9月10日）
1.第一阶段的激烈战斗过程
1940年8月20日20时整，各兵团都按总部统一规定的时间发起攻击。迅速扑向日军控制的据点、车站、桥梁、碉堡。八路军总部彭德怀、左权等急切关注战役的进展。21日清晨，刘伯承、聂荣臻、贺龙先后将作战进展上报给总部。彭德怀还及时将战果向中共中央和国民政府委员会报告。22日中午饭后，彭德怀、左权到司令部作战室听取战况汇报。当问到八路军实际参战兵力时，作战科根据各部队战报统计回 答共计105个团。左权听完说：“好，这是百团大战，作战科再仔细把数字查对一下。”彭德怀接着说：“不管一百多少个团，干脆就把这个战役叫做百团大战好了。”当天下午，八路军总部给中共中央军委和国民政府军事委员会委员长蒋介石的电报中，最先使用了“百团大战”这一名称。
彭德怀和左权在电文中说：聂，贺、关，刘、邓并报军委：正太战役我使用兵力约百个团，于20日晚开始战斗。序战胜利已经取得。这次战役定名为百团大战。这是华北抗战以来积极主动大规模向敌进攻之空前战役，应加紧扩大宣传。此间除有专电发重庆转蒋（介石）何（参谋总长何应钦）陈（政治部部长陈诚）徐（军令部部长徐永昌），发西安转办公厅，并发延安外，每日还有战况及新闻广播，希注意接收，以至统一扩大宣传。
彭左养午
延安收到这份电文后，送给毛泽东、王稼祥、朱德、洛甫、王明、康生、陈云、任弼时等，给蒋介石的电报，先发至重庆的第十八集团军参谋长叶剑英后再由他转送的。
百团大战第一阶段作了很好的宣传。8月23日这一天起，八路军总部开始编辑《百团大战要报》，汇报各部队在各条交通线上大破击的战况和战果，电告延安中共中央军委、重庆国民政府军事委员会、第一战区司令长官卫立煌、第二战区司令长官阎锡山。到战役结束时共编发《百团大战要报》近400号。8月23日，《新华日报》（华北版）以专版首次刊登了“华北交通总攻击战”第一号《捷报》。7天后，延安出版的中共中央机关报《新中华报》，在头版也发表了《八路军展开百团精兵大战》的消息，公布了第一批《百团大战要报》，并发表《八路军在华北反扫荡的百团大战》的社论，延安和各抗日根据地、重庆和大后方国民党统治区的报纸、刊物和广播电台，也纷纷发表消息、评论。
第一阶段，交通总破击战，以摧毁正太铁路为重点的交通破击战。正太铁路被日军经营多年，构筑牢固，认为是“钢铁运输线”。
百团大战开始时，日军因为不明情况，完全处于被动挨打状态。据日军方面材料，正太路西段独立混成第四旅团和第八旅团的守备区域，8月20日晚同时遭到八路军优势兵力的攻击。直到20日夜正太路各地据点遭到八路军攻击时，都是仓皇应战，一面向上级报告。后由于通信线路被切断，敌军指挥部对各方面的战况完全不明，经过两三天时间才逐渐弄清。八路军百团大战的最初胜利的取得的最大原因是因为完全出敌意料。在日军的《华北方面军作战记录》记载着：“此次袭击，完全出乎我军意料之外，损失甚大，需要长时间和巨款方能恢复。”
八路军总部和野战政治部领导人于8月23日联名向各部队发出了嘉奖电令：聂，贺、关，刘、邓：
（1）根据你们几次简要报告，“百团大战”由于我参战全体指战员忠贞于中华民族与人民，英勇用命，果敢进击，在各交通线上，特别在正太线上已取得序战之伟大胜利，无限欢慰，特传令嘉奖即转令周知。“百团大战”是抗战以来在华北战场上空前未有的、自主积极的向敌寇进攻大会战，对于全国抗战形势与华北整个战局均有伟大意义。“百团大战”亦将成为中外战史上最光辉的名词，望我全体将士发挥最大之决心毅力、韧耐性、顽强性、机动性，以再接再厉之精神，在现有序战胜利之基础上，猛烈扩张战果，完成战役任务，是所至盼。
（2）根据情报，敌寇似在从平汉、同蒲、白晋等线调集兵力增援正太，但估计兵力权为方限，且边我沿途阻潦与神留，仍难能基本上破坏我之战役进展，希饬各线配合作战部队，除积极破击交通道路，阻止援敌外，尚希严密侦察警戒，互相联络，一致协同，注意防空、防毒，对于一切可能夺取之据点、可能消灭之敌人、可能破坏之建筑物，继积极进取之，尽量争取战役时间之延长与战果之扩大。对于敌寇以数百人或一个大队来援之兵力，应有坚定信心，集结很优势兵力消灭之。因为只有这样才能使敌不敢轻易出援；即使敌敢于来援，亦必须集结更大的力量，这便能延长时间与增加敌之空隙，均有利于我之破坏作业。如敌来增援兵力大，我不能击破与阻止其前进时，我仍应寻些可能继续破坏地方破击之，并以得力一部转移到援敌来路方向进行破击，使敌顾此失彼，忙于往返而逐渐分散兵力。再者天雨不停，山水暴发，应利用山水流冲破路，更应发动沿线民众参战、破路与搬运一切器材。
总司令朱德副总司令彭德怀参谋长左权政治部主任罗瑞卿副主任陆定一8月24日，八路军总部又发出《贯彻正太路作战决心》的命令、总部嘉奖令和坚持《贯彻正太路作战决心》的命令，极大鼓舞了八路军广大指战员、参战民众。八路军提出口号是“不留一根铁轨，不留一根枕木，不留一个车站，不留一个碉堡，不留一座水塔，不留一座桥梁，不留一孔隧道，不留一根电线杆”、“破一里铁路等于消灭一连敌人”等，投入轰轰烈烈的破击中。第一二九师三八六旅参谋长周希汉回忆破坏铁路的情景说：“那时的铁路线白天烟雾弥漫，夜晚火焰飞腾，远处望去，简直像一条飞舞的火龙”。经过大约7天的破击，导致正太路全线瘫痪。另外，第一二○师切断同蒲路北段和忻静、汾离、太汾等公路；冀南、冀中军民破坏了平汉路，推迟德石铁路的修筑；挺进军和冀东军民破击北宁路，攻占一些据点，还曾打进了唐山城。
对于八路军大破袭的辉煌业绩，日军华北方面军的原始档案《华北方面军作战记录》记载：“盘踞华北一带的共军，按照第十八集团军总司令朱德部署的所谓‘百团大战’，于1940年8月20日夜，一齐向我交通线及生产地区（主要为矿山）进行奇袭。特别是在山西，其势更猛，在袭击石太路及同蒲路北段警备队的时候，并炸毁和破坏铁路、桥梁及通信设施，使井陉煤矿等的设备，遭到彻底破坏。此次袭击，完全出乎我军意料之外，损失甚大，需要长时间和巨款方能恢复。”
一个多月后，日军《遭受损害的恢复情况》统计了损失情况是：各处破坏铁路，自8月20日半夜，与袭击同时进行，阳泉、寿阳之间直至9月4日仍不断遭到共军袭击，使抢修工作受到妨害。破坏最严重的是芦家庄西185公里处及61公里处的两座桥。前者被炸坠落，后者虽未坠落，但修复也有同样困难。对铁轨的破坏，各地袭击的同时，进行长距离的破坏。主要是将枕木与铁轨集中一起予以烧毁，大部分铁轨已不能再用，一部分铁轨则由很多村民运往内地。对车站设施则焚毁其民房，破坏水塔及水泵。通信方面的破坏，是将电杆从根部锯断，切断电线，砸碎磁瓶，并将铁路电杆烧弯。从爆破结果看，估计事前对其干部进行过相当训练。另外敌人使用的炸药总数约有5460吨。”由此可见，八路军给敌人造成的损失之大，由此也可见第一阶段的战果辉煌。
8月26日夜，八路军总部发出正太路破击战役第一阶段第二步准备转移兵力的命令：在正太路不能继续坚持作战或已彻底完成正太战役任务的情况下，我之行动方针应是乘胜开展正太线两侧之战斗，力求收复敌深入各该根据地内之某些据点，继续坚持正太沿线之游击战，缩小敌占区，扩大战果，同时以一部兵力进行休整。命令发出后，彭德怀发现各线破袭部队继续取得胜利，并且日军没有大的报复行动。彭德怀又想彻底毁灭正太、同蒲铁路，使晋察冀、晋西北和晋冀鲁豫三大根据地连成一片。于是，他8月31日又致电各部队首长和中共中央领导人征求意见。
电文中说：此次百团战役胜利中已暴露敌之严重弱点，是兵力不够分配，华北战场上之兵力缺乏，已抽调出去不少，因此引起我们考虑以下问题：彻底毁灭正太路和彻底毁灭同蒲路之忻县朔县段。如能达到目的使三个基本根据地连成一片，在任何方面于我有利，并可引起华北战局某些变化。你们认为可能时，即电告并同时准备继续扩大之。
彭德怀的想法是好的，但却低估了日军的实力，迅速调集援兵的能力，所以开始吃亏。日军的剧烈反击迫使彭德怀改变战略指示。晋察冀军区在正太路扩大战果不成，一二九师也被迫转入防守。
根据敌情变化，彭德怀放弃了8月31日电报中提出的设想，于9月2日签发了结束正太破击战役命令：1．连日由晋南增往正太路之敌约一旅团之兵力，其先头已到达正太西段榆次，芦家庄、寿阳各据点之敌向外扩张已夺取西段不少据点；井陉、石家庄、定县沿线集敌五六千人，后续还有可能增加，娘子关、阳泉之敌积极向东西扩张；估计敌正东西夹击我军。
2．正太线战役已取得伟大成绩。在上述情况下，特别是聂集团方面继续扩张战果已不可能，决心结束正太战役。
3．各集团应按26日命令第二步行动方针转移兵力，乘正太路遭我破坏后敌不能转移兵力之有利时机，完成第二步计划之任务。
各八路军各参战部队分别于9月l0日前后转入休整，总结经验教训、表彰，准备下一阶段的战斗。
在百团大战第一阶段的辉煌胜利中，出现了许多有名的战斗。如攻克天险娘子关、炸毁井陉煤矿、激战狮垴山、占领康家会等战役。
抢夺娘子关。娘子关位于山西东面晋冀两省交界处。地势险要，向有“一夫当关，万将莫敌”之称。日军占领娘子关后，在原来国民党军队构筑的国防工事的基础上，又加修了4个大堡垒，构成了严密的交叉火力网。驻守日军是独立混成第四旅团所属的一个警备中队，中队长池田龟市中尉和一部分伪军。八路军攻关开始时间是8月20日夜。攻关的八路军是晋察冀军区右纵队第五团第二营的两个连，团长是陈祖林，政委肖锋，方式是强攻。当时日军巡路归来，“回到娘子关站令士兵下车，宣布注意事项后，刚要下令解散时，突然遭到从西面300米铁路上捷克式枪的猛烈射击”，日军于是加紧抵抗，死命顽抗。八路军前仆后继，奋勇杀敌，激战3个小时，占领了娘子关。参战者韦明在《出击正太路》这样写道：21日“黎明的时候，青天白日满地红的国旗，迎着东方灿烂的阳光，有如春天里飞掠的燕子一样飘展在鲜血染红了的娘子关头。3年了，在敌人占领的3年中间，娘子关的城头上还是第一次插上祖国的旗帜。无数被敌人践踏下的同胞仰望着祖国的鲜丽的旗帜，旗帜下面屹立着的祖国的卫士，他们感奋得流泪了。”
炸毁井陉煤矿。井陉煤矿位于正太铁路北，滹沱河以南，东靠微水、获鹿，西接娘子关，是华北著名第二产煤区。煤质好，又能炼铁又能炼油。日军占领后，把井陉煤矿作为重要的军需资源基地。日产煤达到6000吨。“日军占领一个井陉煤矿，相当于增加五个师团的兵力”。日军防范和保护非常严密。挖壕沟、架铁丝网，装电网，修建很多碉堡。驻守日军是一个步兵中队，日夜防守；不远处贾庄炮楼林立，援军充足。井陉煤矿有2万多名中国劳工，饱受侵略者残酷压榨，过着非人生活。百团大战开始时，工人们与八路军已经取得联系。参战晋察冀军区中央纵队3支部队，主攻第三团指战员。纵队司令员杨成武下达“一营攻打新矿，三营攻打老矿，二营攻打贾庄炮楼”的命令。晚10点开始攻击。一营三连的战士由煤矿工人指引，断电，攻击刚睡的日军，先后拿下几个碉堡，但是新矿中心碉堡，历经曲折，死伤好几个战士甚至连长才炸掉。
第三团在一营占领新矿的时候二营也拿下了贾庄炮楼。但因下大雨，日军死守堡垒工事坚固，老矿终未攻下。被解救的煤矿工人踊跃参加八路军，老弱和眷属也纷纷离开了井陉煤矿。