平绥路上的南口、张家口相继失陷后，板垣征四郎的第五师团集结于怀来，东条英机的关东军察哈尔兵团集结于宣化，继续向南攻击山西的企图显而易见。只是，中国方面暂时还无法判断其作战方向和计划。日军进逼山西无非有两种可能：一是在冀西北部与晋东北部交界处的蔚县、广灵发动佯攻，主力沿平绥路西进攻取大同，切断中国军队山西与绥远间的联络；二是在晋东北的天镇方向实施佯攻，主力攻取广灵，切断中国军队山西与河北间的联络。然后，两路兵力即可协同向南直插山西的腹地。
中国军队第二战区制订了兼顾两种可能的作战计划。这个计划的要点是：无论日军的主攻方向在哪一边，都以局部的死守待援、东或西面的紧急增援，形成夹击日军的战场态势。为此，司令长官阎锡山将第二战区部队部署如下：杨爱源部第六集团军第三十三军独立第三旅和第七十三师布防晋东北的广灵；第三十四军第二0三旅布防广灵以西的浑源，第一九六旅布防浑源西南方向的应县，第七十一师在应县西南方向的岱岳，新编第二师在平型关以西的砂河。
卫立煌部第十四集团军第八十五师控制平型关以西的大营。傅作义部第七集团军第六十一军第一0一师固守晋东北的天镇，第二00旅布防天镇西南面的阳高，独立第七旅布防大同以东地区；第三十五军新编第六旅固守兴和，新编第一旅布防隆盛庄，第二一八旅固守集宁，第二一一旅布防归绥，第二旅和第二0五旅布防大同至丰镇间。从北向南，第二0九旅控制在大同与怀仁间，预备第七十二师控制在应县，第二一五旅控制在雁门一带，独立第一旅控制在平型关，第六十六师控制在太原。此外，在山西、绥远与察哈尔的交界处，骑兵军主力布防在商都、尚义、化德一线。第六十八军刘汝明部在蔚县一带防御。第十七军高桂滋部布防广灵。司令长官部行营进驻雁门关以西的太和岭口村。
但是，令中国军队没有想到的是，东条英机指挥的察哈尔兵团和板垣征四郎指挥的第五师团，从攻击一开始就两路齐头并进，令第二战区无法判断出到底哪个方向是主攻。九月三日，关东军察哈尔兵团独立混成第十五旅团，在旅团长筱原诚一郎的指挥下自张家口以南的宣化方向出动，向驻守天镇的中国守军第六十一军发动猛烈进攻。武器简陋的中国守军在察哈尔兵团凶悍的攻击面前几乎没有还手之力。最后，盘山失守。盘山失守的这一天，日军第五师团于天镇以南的蔚县方向开始了突进，其第九旅团攻击广灵，第二十一旅团从广灵西面迂回。很快，蔚县被日军占领。
战事已起，阎锡山的判断是：日军的主攻方向是大同。于是他策划了一个“大同会战”的方案，即把日军主力引进大同以东的聚乐堡，那里有晋军已经建好的国防阵地，然后调动强大兵力从南北两面对日军实施夹击。天镇外围制高点盘山失守后，日军直冲而下。阳高陷落，天镇成了一座四面被围的孤城，孤城里的孤军是三九九团。尽管日军遭到三九九团的拼死抗击，但最终天镇还是陷落了。于是，“大同会战”瞬间成为泡影。阎锡山命令各部队向大同以南、桑干河南岸的山地转移。九月十三日，关东军察哈尔兵团独立混成第一旅团未经战斗进入了晋北重镇大同。
大同、平绥、同蒲两条铁路衔接处，“为晋、察、绥之交通要冲”。恼羞成怒的阎锡山为此枪毙了第六十一军军长李服膺。几乎所有熟悉李军长的人都为他喊冤，尤其是第六十一军官兵，他们认为，天镇、阳高一线战斗惨烈，面对日军重型武器的官兵手里的枪械都是山西造的，导致伤亡十分严重。战斗中，部队既得不到明确指示，又得不到任何支援，就这样把李军长不明不白地枪毙了实在不公平。天镇失陷后，日军迅猛南下，晋北战场呈现出混乱局面。局面的恶化，绝不是处决一个军长能挽救的。
九月十一日，侧翼的日军第五师团从蔚县出动，向广灵方向推进，并以一部向火烧岭一带迂回。汤恩伯命令高桂滋的第十七军第二十一师主力防御广灵城正面，第八十四师在火烧岭一线阻击。十二日，日军向火烧岭中国守军阵地发起攻击，同时向广灵方向的中国守军阵地压迫。十三日，布防火烧岭以西刘家沟的第八十四师四九九团陷于苦战；广灵城正面防御阵地上的第二十一师也处在激战中，四二四团在与日军的肉搏战中伤亡甚重，阵地最终被日军突破。日军第五师团于侧翼向南发起的猛攻，令阎锡山从北向南部署的防线出现了倾斜。十三日，阎锡山不得不重新调整部署，重点是调集部队堵住日军第五师团的南下势头，以图稳住整个战场的侧翼。
十四日，日军第五师团的攻击力度丝毫未减，布防广灵方向的第七十三师在以弱对强的阻击中伤亡惨重。阎锡山命令汤恩伯，如果实在守不住防线，可以撤退到广灵以南建立新的阵地。汤恩伯接到命令后，立即命令第七十三师、第八十四师和第二十一师全部撤退，广灵遂被日军占领。日军第五师团第二十一旅团占领广灵后，向广灵以南的灵丘和广灵以西的浑源方向继续追击。二十日，从广灵南撤的第七十三师，因顶不住日军强攻再次南撤，灵丘城被日军占领。至此，在中国军队晋北防线的右翼，日军已经迫近内长城。
从灵丘再向南，是内长城的一座关口，名叫平型关。平型关为山西境内内长城南翼之要隘，扼守冀、察入晋之要冲。此时，阎锡山正在制订一个新的作战计划：把日军放进平型关内加以围歼。即诱使日军通过平型关，深入平型关以西的砂河盆地，然后中国军队从恒山、五台山两面发动夹击，截断平型关要隘，把日军歼灭在沱河上游的盆地里。阎锡山认为，自己布好了一个口袋阵，保准日军进得来出不去。