国民党内以武力清除黄河以南八路军、新四军的主张开始占据支配地位，是在1940年秋国共两党关于划界问题的谈判陷入僵局之后。10月19日，参谋总长何应钦及副总长白崇禧联名向中共发出最后通牒，限期一月，要求黄河以北的八路军、新四军全部按照7月16日“中央指示案”的规定，开赴旧黄河以北。
八路军总司令朱德等11月9日发出电报，只同意将长江以南之新四军部队移到江北。军令部随即迅速在何应钦、白崇禧示意下拟呈《剿灭黄河以南匪军作战计划》，于11月14日上报蒋介石，要求批准执行。
蒋介石这时的基本目的，只是想把八路军和新四军驱赶到旧黄河以北的冀察两省去，而采取军事手段根本解决问题，并非是蒋介石这时想要达到的目的。故军令部呈文最初到后，蒋一直拖着不签。
而这个时候，中共方面也正在为皖南新四军军部北移问题伤脑筋。这是因为，新四军北渡，通常只有两条路线好走，第一条路线直接由泾县向北，于铜官和繁昌间北渡长江去皖东，是为北线。但此线有两大障碍，一是沿江为日军控制；二是江北为桂系控制，而江北皖东地区又恰为新四军第四支队活动区域，桂系正集中部队加以“清剿”，对江南部队北渡无疑会极力阻击。
第二条路线是由泾县往东，经苏南转经浪溪、溧阳、武进渡江，去苏北，是为东线。此线因经过苏南新四军活动区域，而且渡江后即进入新四军苏北黄桥根据地，较为安全，惟宣城至浪溪一带为第三战区国民党部队驻地，有两师兵力之多，要走此线必须得到第三战区的同意。
显然，最理想的方案就是走东线。这一方案最初也得到了第三战区的同意，当月皖南新四军军部就派出北移先遣队1700人，经过国民党军五十二师和一0八师驻地，由苏南实现了北渡。
但是，第三战区允许皖南新四军从苏南北渡苏北，并非想要两支新四军合为一股，而是要新四军进一步再从苏北向北移过旧黄河河道，去冀察战区。
曹甸战役的发起，是因为霍守义师从山东进至苏北沐阳地区，直接威胁进至淮阴、涟水以北的黄克诚部。为避免黄部受到以兴化为省府的韩德勤部和霍守义部的夹击，刘少奇等人决心发起曹甸战役。
11月29日，曹甸战役打响。三天后，军令部就做出激烈反应，要求汤恩伯部迅速东进增援。曹甸战役并没有达到消灭韩德勤主力的目标，新四军反因伤亡甚大，被迫撤出战斗。
但受到此一作战影响最大的，则是江南新四军军部。因为北移路线只剩下北线可走，从而极大地增加了新四军北移的难度。毛泽东并非不知道皖南新四军北移困难重重，但他根据各种情报，相信继续留在皖南，部队的危险更大。
因此，从12月初起，他就坚决主张部队要迅速北移，并力主兵分两路，即由铜、繁间北渡的同时，争取分兵经苏南渡江。毛虽再三催促，项英等身处险境，左右为难，始终担心部队受损，对北移路线拿捏不定。
事到如今，国民党方面也开始加紧“剿共”军事部署。12月7日，蒋介石正式批准军令部报批的《剿灭黄河以南匪军作战计划》。蒋介石于9日亲下手令，要求八路军和新四军务必在12月底和明年1月底分别移至黄河以北，而新四军皖南部队则必须在12月底以前先开到长江以北。
国民党军事高层这时在用军事手段达成逼迫八路军、新四军北移的问题上，态度要比蒋介石更为急迫，也更为强硬。正是他们强烈地催促着蒋早下决心，早做准备。手令既下，时限已定，已成骑虎之势，蒋介石继续硬着头皮往前走。12月10日之后，蒋正式批准了军令部关于实施《剿灭黄河以南匪军作战计划》的要求。
蒋介石这时的担心，除了军事上尚无十分把握以外，更主要的还是不想因此造成两面对敌的局面。为此，在他批准军令部的作战计划后，不能不高度关注苏联方面的态度。因为在他看来，中共在国共关系问题上的政策，很大程度上要取决于苏联的意志。
而苏联与日本这时关系紧张，对国民政府则相当友善，因此他多少有些安慰，相信即使发生战事，至少“中共当不致扩大叛变”。但也正因为如此，他才不同意军令部所报《华北作战计划》和胡宗南所报进攻延安的作战计划，主张其他地方必须暂取守势，而对实施《剿灭黄河以南匪军作战计划》，也希望一旦战事爆发，应局限在《中央提示案》所规定的部队移动范围之内，以便师出有名。
《剿灭黄河以南匪军作战计划》经蒋批准后，第三战区司令长官顾祝同即于12月20日和26日密令所部，分途向皖南新四军驻地集结包围。第三战区和第三十二集团军得令后，迟至27日才在徽州开秘密军事会议研究进剿部署，29日负责实施进剿的第三十二集团军才最后拟定出《进剿匪军计划》，这之后再开始发布指令调动部队进入指定位置，要想在12月31日以前完成对皖南新四军的包围，已经不可能了。
之所以出现这种情况，除了军令部的命令下达过迟以外，一个更重要的原因还在于对蒋唯命是从的顾祝同等这时其实也不希望真的与新四军开战。一个重要的根据是，明明这时新四军距离蒋所规定的北渡时间已经十分急迫，当叶挺等强调实际困难，甚至要求展期时，顾祝同等不仅没有严词相逼，而且还努力向重庆转达，请蒋尽量通融。
12月27日，叶挺、项英向顾祝同说明经费、弹药、冬服等存在极大困难，要求展期至1941年1月8日出动。28日，顾祝同在给蒋介石的电报中说明了他准备答复叶挺来电的内容。电报中，除开拔日期顾祝同没有松口外，对于新四军的其他要求，顾都有所变通，并尽可能为便利新四军军部北渡设想办法。
不仅如此，为了解除中共这时对北渡后可能遇到的桂军拦击的问题，顾祝同也促使江北李品仙来电做出承诺。实际上，由于蒋介石12月12日明令第二十一集团军应配合新四军于12月底之前由皖南移江北之行动，李品仙也确在具体部署为新四军军部北渡让路。
但是，新四军军部这时却并未获知桂系江北让道的消息。相反，由于曹甸作战失利，刘少奇等准备让原在皖东津浦路以西的新四军第四支队撤回路东，让彭雪枫的游击支队撤过涡河以北，以此为让步与桂系谈判。这样一来，原来还指望安徽一带的新四军部队能够对桂军有所牵制的新四军政委项英，明显地对就地北渡更无信心了。
在无法确保安全的情况下，直到12月30日，叶挺还在受命要求展期北移。 新四军军部北移问题，一直拖延到最后一刻，项英等还是拿不定主意。虽然主力就地北移已是大势所趋，但当周恩来依据情报来电强调直接北渡长江太过危险之后，本来就对这一方案犹豫不定的项英等马上又改变了主意。
依据周电，报经毛泽东及中共中央认可，新四军军部终于选择了另外的路线，并下决心迅速开动了。 因为东线这时已被第三战区否定，经苏南径去苏北早已是此时国民党之所忌，项英等人自然也不可能去设想通过攻击横阻在东去苏南必经之路上的国民党第五十二师和第一0八师，夺路东进。
因此，直接北渡的方案既遭否定，东去苏南又行不通，项英等也只有向南一条路好走了。所谓向南，就是经茂林绕道三溪，转天目山山脚下，即绕过横亘在通往苏南路上的国民党第五十二师和第一0八师驻地，目的还是要经苏南实现北渡。
走南线，等于是向第三战区国民党军的防地深入，毫无疑问也有很大危险，而且与北渡命令在方向上更是南辕北辙，极易引发误会。因此，此一方向不能不在新四军军部领导人中间引起争议。
尽管1941年1月1日前后军部已经就南线问题作出决定，叶挺仍然没有放弃争取合法走东线的最后希望。他认为，只要能够争取到顾祝同同意部分队伍，如一个团经苏南北渡，即可以铜繁北渡遭遇日军或桂系拦截为由，名正言顺地要求分批走苏南。顾祝同也知道由铜繁北渡的困难，故还是同意新四军可以有一个团经过苏南北上。
叶挺还不死心，要求“先派一个团经指定路线进入苏南，转至敌后，分路北称，余仍待临时费及弹药补给后，在就原地设法北渡。如万不可能时，仍恳准予转经苏南。”对此，顾显然未能及时作出回复。只是鉴于这种情况，叶挺才不能不服从走南线的决定了。
1941年1月4日，皖南新四军军部秘密出动，南下茂林。对此，无论是顾祝同，还是蒋介石，显然都毫不了解。由于叶挺2日还有要求分兵走苏南的提议，他们甚至还在考虑要不要同意新四军部分部队改走苏南，和要不要适当再度展期的问题。