十一月三日，阎锡山在太原召集高级将领会议，研究太原城的防御问题。阎锡山的计划是：利用太原城四周的既设阵地，实施“依城野战”，以阻敌进攻，待后续部队到达再发动反攻聚歼敌人。那么，由谁来指挥太原会战呢？阎锡山是第二战区司令长官，卫立煌是第二战区前敌总指挥，阎锡山想让卫立煌担负这个任务“又不好明言”，于是等着卫立煌毛遂自荐。但是，卫立煌坐在那里，就是“一言不发”。“其他将领也大多低头不语”。最后时刻，“傅作义挺身而出”。
接着，便是如何防守太原城的问题。这一问题在将领们之间发生了激烈争执。阎锡山制订的计划是用野战的方式于城外布防，可与会的大部分将领认为，让目前已经处在败退中的部队重新布设阻击阵地，最大的可能是，还没等他们进入阵地，日军就已压到了太原城下。况且，那些所谓的国防工事，几乎无需实地检验就可判定必是不堪一击。目前，唯一可行的是，集中兵力坚守城垣。阎锡山坚持他的计划。双方争论到凌晨，阎锡山告诉将领们作战计划已经布置给各部队的指挥官了。会议至此结束。
阎锡山委任傅作义为太原守备司令。共产党人周恩来也参加了阎锡山的军事会议。周恩来不同意以多数兵力在太原城与日军决战，认为这样只能带来巨大伤亡，而太原最终还是要丢失。正确的方法应该是背靠山地，以运动战方式与日军展开周旋。会议结束时，周恩来特别对傅作义说：“我愿代表中国共产党，还有全民族，诚恳地对你说一句话：抗日战争胜利的基础，在于广大人民群众之深厚的伟大力量，请你保重。”十一月五日夜，周恩来带领八路军驻晋办事处人员撤离太原城，
板垣征四郎得知中国守军开始撤退后，立即命令部队自忻口一线大举向南追击。日军推进得异常迅速，导致中国守军无法在预设阵地立足，不得不再次向后移动。同时，从娘子关方向撤下来的中国守军，绝大多数因遭遇日军截击无法靠近太原，只有继续向西南方向退去。卫立煌命令中国守军主力转移到交城、太谷一线，防止日军继续南下；同时命令孟宪吉的独立第八旅、郭宗汾的第七十一师和马延守的独立第七旅等部队进入太原城以厚守城兵力。但是，命令的下达已经晚了，除独立第八旅的一个营最终进入了太原城外，其余部队均被日军阻击在汾河西岸。
六日，忻口方向的日军从北面逼近太原城垣，娘子关方向的日军插入太原以南切断了中国守军的退路。太原已成为一座被日军包围的孤城，孤城内傅作义的守军仅有第三十五军的九个营以及陈庆华的独立第一旅、杨维垣的第二一三旅等部的十个营。明知守城也是死路一条的傅作义，还是把仅有的部队进行了部署，并封闭了太原城门。封城之前，傅作义将部队集合起来，然后他对官兵们说：留下来守城，等于躺在了棺材里，就等着把棺材盖盖上，各位就当自己已经死了，我们与太原城共存亡。
日军以飞机和火炮猛轰太原城，城内的建筑物纷纷坍塌，到处燃起冲天的大火，供电线路和通讯线路均被摧毁，全城的商店都被抢劫一空，到处是为非作歹的散兵游勇。七日拂晓，日军对太原城发起攻击，步兵在坦克的掩护下从坍塌的城墙处向城内猛冲。中国守军拼死抵抗，激烈的拉锯战导致双方死伤严重。第二天，日军以更大规模发起全面进攻，直打得中国守军的阵地上弹片与血肉横飞。残酷的守城战几近两昼夜时，太原守军的将领开始动摇。
傅作义坐立不安，脸色铁青，但就是不说“撤退”二字。天黑了，傅作义接到了南京相机撤退的命令。太原在极度混乱中仅坚持了四天。山西抗战，是中国抗战初期规模最大、持续时间最长、战斗最激烈、官兵牺牲最多、战绩也最显著的会战。但是，太原的最终失守，使得华北的侧翼完全暴露在日军的控制下，华北彻底沦陷的结局已经不可避免。板垣征四郎的第五师团和川岸文三郎的第二十师团攻占太原的消息，不但令日军华中方面军攻占南京的欲望更加强烈，也令日本政界和军界相信中国臣服之日已为期不远。
接着，一个令国民政府压力倍增的消息从东京传来：为了支持更大规模的战争，十一月十七日，日本战时大本营正式设立。卢沟桥事变爆发以来，日军参谋本部曾研究过是否成立大本营一事，但因是否宣战等问题尚未议决而被搁置。随着对中国发动的战争逐渐扩大，设立大本营的建议被内阁再次提出。然而，建议遭到陆军部和海军部的一致反对，他们认为这将导致内阁干涉军事。但是，战事规模的演变与战场地域的扩大，确需一个确保政令与战令统一的军事大本营为统帅部。接着，陆军向海军作出说明，阐述成立大本营对续战争是必要的，并明确战争事宜将完全由陆军和海军做主，于是，海军同意了。
日军陆军参谋总长和海军军令部长，就设立大本营事宜联合上奏天皇得到批准。大本营的设立，使得日本军人进一步掌控了国家的决策权力。它给世界——特别是中国——发出一个明确的信息，那就是没有任何力量能够阻止或改变日本军国主义者武力征服中国、称霸亚洲乃至世界的决心与意志。 日本政界与军界在此达成一个共识：只要从各个方面不断武力威逼南京，中国政府总有彻底支撑不住的那一刻。