共产党方面的强硬和社会舆论的愤怒，令蒋介石不得不在公开讲话中反复解释，强调事件仅仅涉及军令军纪问题，而决不涉及党派和政治。他甚至在参政会上发表演说，表示“决不忍再见所谓‘剿共’的军事，更不忍以后再闻有此种‘剿共’之不祥名词留于中国历史之中”。只是，包括共产党人在内，没有人再相信蒋介石了。
皖南事变后，被俘的新四军官兵被关押在上饶集中营。一九四二年，日军逼近上饶，集中营转移途中，新四军官兵发动暴动，除少数人越狱而出外，多数被国民党军屠杀在江西北部的山涧里。 仅就中国抗日战争的艰苦进程而言，皖南事变的发生是一个绝大的民族悲剧，事件导致中国的抗战几乎失去了华中敌后战场的支撑，中国南方的敌后战场自此进入了最艰难的时期。
日军华北方面军的主要任务是确保华北占领区，其作战对象主要是共产党领导的八路军。特别是百团大战之后，慑于八路军的强大威力，日军确定了以剿灭共产党武装为核心的策略。但是，就华北地区而言，以中条山为轴心的中国第一战区毕竟还驻扎着卫立煌的二十万人马。日军认为：“由于晋南的重庆军牵制着日本军三个师团”，因此必须“首先将其消灭”，这样日军才可以“全力对付中共军”。
由此可见，中条山作战是日军对共产党敌后抗日武装全面作战的前期准备；也由此可见，日军根本没把中国第一战区的二十万国民党正规军放在眼里，认为很快就能将他们一举歼灭干净，为之后的真正作战---与八路军的决战---腾出兵力与战场空间。
中国第一战区卫立煌部共有十一个军。其中四个军配置在太行山和太岳山地区，与八路军的太行和太岳两个抗日根据地呈对峙状。其余的七个军约十五万人配置在中条山地区。中条山西侧守备：孔令恂的第八十军，辖新编第二十七师、第一六五师和游击第四、第八纵队以及河北民军。垣曲、桑池以西的中条山西部守备：第五集团军总司令曾万钟，指挥唐淮源的第三军，辖第七、第十二师和第三十四师；高桂滋的第十七军，辖第八十四师、新编第二师和游击第一纵队。中条山北侧守备：第十四集团军总司令刘茂恩，指挥武庭麟的第十五军，辖第六十四、第六十五师；武士敏的第九十八军，辖第四十二、第一六九师；刘戡的第九十三军，辖第十、第一六六师和新编第八师；赵世铃的第四十三军，辖第七十师和暂编第四十七师。中条山东侧守备：裴昌会的第九军，辖第四十七、第五十四师以及新编第二十四师。
而日军位于中条山周围的部队是：晋城附近的第三十六师团，运城附近的第三十七师团，临汾附近的第四十一师团以及豫北的第三十五师团。确定实施中条山作战后，为加强这个方向的兵力，日军从华中方面军的第十一军抽调出第三十三师团，配属给华北方面军的第一军；还将位于上海方向的第十三军的第十七师团与位于苏北方向的第二十一师团换防，把第二十一师团抽出投入中条山战场。
同时，日军第一军还从本辖区内抽调了独立混成第九、第十六旅团以及骑兵第四旅团各一部参战，这就使得进攻中条山的总兵力达到十万以上。东京大本营又从关东军调来飞行第三十二、第八十三战队，加强给第三飞行团，以运城和新乡两个机场为基地，协同陆军作战。日军第一军司令官筱冢义男决心以“不顾”华北占领区“治安状况下降”为代价，集中兵力将中条山一线的中国军队一网打尽。
日军向晋南调动兵力的幅度很大，中国方面很快便察觉日军有攻击第一战区的企图。为此，军事委员会军令部制订出三个方案：一是主力向黄河南岸撤退，巩固河防，这是放弃中条山而退守黄河的方案；二是趁敌人尚未部署完毕，先发制人，用攻势作战粉碎日军的战役企图，这是主动进攻的方案；三是采取机动战术，变内线为外线作战，即放日军进来在中条山里与之周旋的方案。
四月十八日，参谋总长何应钦从重庆抵达洛阳，召集第一、第二、第五战区高级军官会议，研究晋南作战问题。会议持续至二十日，最后由何应钦拍板决定，采取军令部提供的第二方案，即以主动的攻势作战粉碎日军进攻中条山的战役企图。何应钦的作战指示近乎异想天开：在日军的大规模进攻面前，正面战场上的中国军队绝少有发动主动攻势以提前瓦解对手进攻意图的行为，中国军队尚不具备这样的作战能力。
五月三日，第一战区作战计划制订完毕：中条山东面，第二十七军在豫北向新乡、博爱之间的铁路沿线游击；第二十四集团军在豫北与晋南交界地带向安阳、淇县和壶关一带游击；第九军的游击第一纵队在豫西北向温县以东游击。中条山西面，第十四集团军在晋东南向高平、沁水和翼城方向游击；第八十军和河北民军在晋南向同蒲路、安邑和闻喜方向游击；第三十六集团军向中条山西段游击。
---如此四处游击，哪里是以攻势作战破敌围歼的计划？但是，即便这样一个简陋的作战计划，也没能得到实施。当时，第一战区司令长官卫立煌在四川，等他五日返回洛阳司令长官部后才将上述命令发出。而所属部队接到命令尚未动作，日军的攻击已经开始了。
一九四一年五月六日，日军航空兵首先轰炸了西安、咸阳、潼关和郑州等地，并炸断了陇海铁路。七日晚，日军六个师团外加两个半混成旅团，采取“中间穿透、四面合围”的战术，向中条山地区的中国军队发起了全面进攻。显然，中条山西部是日军攻击的重点方向。这个方向上的中国守军，是第八十军以及第五集团军的第三军和第十七军，而日军投入了第四十一、第三十六、第三十七师团以及独立混成第九、第十六旅团。无论在兵力还是武器装备上，日军都处于绝对优势。