八路军第一二o师在师长贺龙和政委关向应的指挥下，组织起二十个团，分段破袭山西境内同蒲路北段及晋西北地区的主要公路。二十日晚，该路段日军最大的康家会据点遭第三八五旅袭击，八路军官兵毙伤日军百余人，继而袭击了丰润和大庙。独立第一旅袭击岚县等地的日军据点，伏击了日军的增援部队，彻底破坏了公路。独立第二旅七一四团攻克日军阳方口据点，歼敌百余，切断了同蒲路。同时，新军暂编第一师攻入五寨县城，决死第二、第四纵队切断了汾阳至离石的公路，攻入日军的王家池据点。第三五九旅的七一七团袭击了柳林，太原至汾阳的公路被切断。
战斗进入第三天时，随着正太路破袭战的发动，战火迅速蔓延到整个华北地区的各主要交通沿线。 遭到破袭的铁路线包括正太路、平汉路、同蒲路、津浦路、平绥路、北宁路、德石路、沧石路、白晋路以及遍布在华北平原上的主要公路，日军据守的五千余里交通线遭到彻底破坏。战斗规模扩展如此之快，是八路军总部没有预料到的。在八路军发动攻击作战区域内，驻有日军第—一o、第三十六、第三十七师团以及独立混成第一、第三、第四、第八、第九、第十五、第十六旅团和骑兵部队，总计二十七万日军和十四万伪军被卷入战场。
二十二日，八路军总部统计，参战的八路军部队，兵力远远超出了战役部署的原定数目，其中晋察冀军区三十九个团，第一二九师四十六个团，第一二o师二十个团，总计一百零五个团，共二十多万官兵。八路军副总司令彭德怀和参谋长左权索性将此次作战定名为“百团大战”，并把扩大之后的战役部署上报给中共中央军委、第二战区司令长官阎锡山、第一战区司令长官卫立煌以及重庆的国民政府军事委员会。可以想见蒋介石看到这封电报后该有多么惊愕。首先，共产党武装竟能向日军发动如此大规模的攻击；其次是，共产党武装竟然已经拥有了如此众多的部队。
日军受到打击后开始反击。八路军总部决定在抗击日军反击的同时，进一步在正太路两侧实施破袭作战。九月二日，晋察冀军区发动盂北战役，各据点的日军仓皇逃进盂县，八路军猛烈追击，日军从阳泉方向增援，八路军再度攻入娘子关和井陉。在抵抗日军的反击中，八路军第一二九师受到合围，该师以四个团的兵力与日军周旋，以第三八六旅十六团和冀南军区决死第一纵队三十八团阻击日军的进攻，掩护师部和后勤机关冲出日军的合围。
九月四日，蒋介石向朱德、彭德怀发出嘉勉电。蒋介石还给各战区将领发出训令，要求他们效仿八路军的战法。八路军在敌后战场的全面出击，给全国民众以极大的震动和鼓舞，特别是正在遭受日军狂轰滥炸的重庆民众，于苦难中看到希望的兴奋溢于言表。百团大战第一阶段作战，基本上完成了破坏日军交通线并歼灭日军有生力量的预定任务。尽管将八路军隔正太路相望的晋察冀和晋冀豫两大根据地连成一片的战略设想没能实现，但毛泽东显然对已经取得的战果十分满意：“百团大战真是令人兴奋，像这样的战斗是否还可组织一两次？”
由于日军向正太路东西两面的大量增援，八路军总部将百团大战第二阶段的作战重点转向了正太路的外围地区。自九月二十二日开始，八路军各部队对日军分割抗日根据地的主要据点，包括主要县城，实施了包围攻坚作战。百团大战的第二阶段作战在十月上旬结束。八路军不顾装备简陋，对日军的主要据点进行了顽强攻坚。
由于不具备强攻日军坚固设防的城镇的实力，在不断歼敌的同时自身伤亡很大，原定攻占四个县城，除一度攻占榆社城但很快又被日军夺回外，其他的三座县城都没有攻克。更严重的是，日军修复交通线的能力大大出乎了八路军方面的预料。日军在抢修交通线后，于十月六日起开始，对正太路两侧以及八路军抗日根据地发动了大规模的报复性扫荡。
八路军立即转入百团大战的第三阶段作战，即反扫荡作战。八路军的反扫荡作战持续了四十多天。这一期间，八路军和抗日根据地的民众与日军展开了殊死战斗，日军付出了伤亡代价，八路军和抗日民众也伤亡惨重。特别是日军实行的“三光”政策，使抗日根据地受到巨大的摧残。鉴于日军已经进入到根据地，八路军依据“敌进我退”的游击战术，转至日军占领区进行袭扰，继续打击日军恢复的据点和交通线。一九四一年一月二十四日，历时五个多月的百团大战正式结束。
百团大战沉重打击了侵华日军对抗日根据地实施的“囚笼政策”，致使日军在整个华北的交通线遭到严重破坏，能源基地被彻底捣毁，主要大的碉堡和据点均被削平，大量的有生力量被歼灭。更为重要的是，百团大战发生在中国抗战进程危机四伏的“一刹那”，中国共产党以自己领导的武装力量的决绝作战，“无情地打击了一切诱降劝降的阴谋毒计，揭穿了一切投降妥协分子，反共反八路军之内战制造者的鬼脸“ 。因此百团大战的意义，不仅取得军事上之伟大胜利，亦更取得政治上之伟大胜利。
毫无疑问，百团大战也暴露了作战预想中的某些问题：战役的规模过大，对日军实力估计不足，连续作战的时间过长；特别是第二阶段作战，采取了攻坚战术，过分消耗了八路军的有生力量；在日军大规模的反击和扫荡中，抗日根据地遭到了严重破坏。对此，彭德怀很快意识到，发动大战的时机可能有些超前：“再熬上半年时间，或者等敌人进攻长沙、衡阳、桂林以后，兵力更加分散，我军再举行这次大规模的破袭战，其战果可能要大得多。”
百团大战尚在进行时，重庆方面与日本方面的谈判戛然而止。九月四日，重庆方面电告日本方面，说近卫首相写给蒋介石的信“内容空洞”，完全是一副“旁观者的态度”，一旦日本内阁再度更换，日方就会把谈判之责推到板垣征四郎身上，而拒绝履行商谈的相关义务，因此“日本不可信任”。十七日，“宋子良”正式告知铃木卓尔：中国方面认为“不应马上召开长沙（蒋介石和板垣征四郎）的会谈”。