国民党中央推动各地及各党政军机关拟具防共办法，不可避免地使本来就已经充满摩擦的国共紧张关系更趋白热化。国民党人的防共措施明显地由一般性的查没报刊、封闭社团、逮捕人员，急剧地走到了大规模的军事冲突和武装驱逐对方军政人员的地步。
在山西，阎锡山抗战初期为改造旧军队依靠共产党人的帮助组建了新军，不想新军建成却渐渐八路军化，阎自然早有夺回新军恢复权力的想法。随着国民党中央发出防共、限共文件，阎锡山一度试图以武力夺回其失去的对新军的控制权，结果引发晋西事变，新军在八路军秘密支持下，占据了晋西北，大部公开脱离了阎锡山的统辖，事实上成为八路军之一部。
而在河北省，省主席鹿钟麟1938年9月到任后，即通令取消共产党人主导的冀中、冀南行政公署，并另行任命各县县长。由于河北民政厅长张荫梧另有背景，也乘机自行任命，日伪也在拉锯区任命县长，这就使两行署范围内一个县一下子开始出现了两个甚至三四个不同背景的县政府，相互之间自然要发生强烈冲突。
鹿钟麟随即利用张荫梧、乔明礼的民军，和受命陆续调入河北的国民党正规军，与八路军进行对抗，并要求八路军归还第二战区。为达到河北以我为主的目的，八路军经统一部署后，于1939年4月下旬起开始集中兵力，对国民党各部队实行各个击破。几个月连续作战，使国民党在河北的军队，不是惨遭歼灭，就是被赶出河北地界。
1940年初，国民党高层干部上书蒋，明白提出：“倭寇、汪逆、中共三者，已均为我之敌人”。“倭、汪为我绝对之敌，中共则横陈于敌我之间，其所处形势，比倭、汪尤难对付”。该函建议，鉴于当前局势，似应本各个击破之法，划清国共两军合作界线，即“将冀察战区给予中共，发表朱、彭为总副司令，而将黄河以南以及长江流域所有中共部队强制调赴北方，并示意只准向东四省发展，不准向南进出。”
进入1940年以来，国共两党明显地进入到针锋相对的时期。中共中央通过将近一年的反摩擦斗争，取得了空前的成就。中共中央更加雄心勃勃地制定了新的发展目标，要“将整个华北直至皖南江南打成一片，化为民主的抗日根据地，置于共产党进步势力管理之下，同时极大发展鄂中与鄂东，以便与全国工作相配合”。且要力争在最短的时间里能够达到扩军百万的目标。
共产党不断扩大根据地，且决心继续扩军的态势，自然愈加引起国民党人的严重不安。国民党内强硬主张用军事手段恢复权力者自然也日渐其多。晋西事变后，第二战区于1940年初迅速拟定报复计划，准备在两三个月之内调集五个军，并配合中央军三个军，向晋东南、晋西北的八路军“同时发动攻势作战”。
军人如此，无职无权、被人称为“好好先生”的叶楚伧也上书蒋，主张“默许各机关战区及沦陷区之国军采取任何方法肃清其内部之不良分子”，并力主“各战区之国军于暗中划一地境线，不许第十八集团军部队自由越境，若不服制止，即将其越境部队剿灭之”。
鉴于党内要求军事反共的呼声日高，蒋介石显然也跃跃欲试。他在日记中甚至相信，由于日军攻势已停，自己已经具备了“抗倭剿共，尽可双管齐下”的实力。当然，他了解，对共产党在这个时候还“不宜全般破裂”，只宜“先取守势”和“局部斗争”。因此，蒋不同意展开大规模的“剿共战争”，而是倾向于各个击破的战法。
考虑到华北八路军已经占据相当优势地位，国民党在敌后难有作为，蒋这时最关心的其实还是华中地区。他对中共军队进入山东，并开始向华中敌后转进的情况高度警觉。他要求第三战区逼迫新四军江北部队退回江南，密令李品仙、韩德勤等选编精干部队肃清淮南路两侧及附近地区之中共军队及其各级组织，尔后相机迅速进出于洪泽湖南北附近地区，协力将中共军队压迫于大江以南，或一举剿灭之。
1940年5月以后，国民党高层就如何根本解决国共摩擦冲突问题逐渐达成共识，划界谈判的工作开始提上日程。按照国民党方面拟订的方案，八路军和新四军应“全部开入旧黄河道以北（指自山西介休、平遥、太谷、长治、河北邯郸、馆陶，到山东齐河以北）之冀察两省和晋东北及冀鲁交界地区”。
中共中央并不反对军事划界的办法，但却无法接受冀察两省的狭小区域，提出必须以华北五省为八路军和新四军的作战区域。蒋介石对此根本拒绝，甚至周恩来提出只增加山东及绥远之一部为中共战区范围，各地游击部队仍留原地作战的建议，蒋亦毫无通融的余地。
进入1939年，国民党人已经开始意识到新四军扩张的威胁，很快派出游击部队进入苏南地区，并明令新四军第一、二支队退出武进、江阴等铁路以东的苏南地区。但由于第三战区规定的地区地形不利于游击作战，又紧靠南京，终日受日军扫荡，实难生存，故陈毅遂率领苏南新四军主力，不顾第三战区的命令，于7月8日渡过长江，进入了苏北地区。
苏北此前已有一支新四军第六团以“江南人民抗日义勇军”的名义，在日占的扬州、泰州、泰兴三点之间的吴家桥一带活动。因“江抗”未进入国民党军所控制的地区，双方一度相当无事。但在5月中旬，因日军扫荡吴家桥地区，“江抗”被迫退入国民党军防区，遂引起国共两军的冲突。
叶飞领导的这支部队成功地在郭村击退了国民党李明扬部的进攻，进而又发起反攻，进占塘头，一直打到李明扬老巢泰州城下。蒋介石这时正在考虑军事划界，即全盘解决与中共之间的冲突问题，故要李“静候解决为要”。据此，李明扬被迫承认了叶飞部所占的地盘。
叶飞部在苏北的胜利显然极大地鼓舞了正在为第一支队难以在苏南立足而头疼的陈毅，因此，陈毅部不仅以主力渡江，而且很快就东进黄桥，在泰兴、靖江、南通、如皋之间建立起新的根据地，决心与苏北的国民党军一较高下。
苏北敌后，是江苏省主席韩德勤的防地，他当然不会听任新四军前来夺取。8月下旬，他一面下令所部准备从9月2日起向黄桥地区攻击前进，一面请求鲁苏战区司令长官于学忠从山东将霍守义部南下增援。韩德勤于9月3日起最初的进攻之前，即电告蒋介石，要求蒋派兵增援。
果然，其部初一行动，就遭败绩，以至蒋介石亦不能不考虑增援问题。他于9月10日分电安徽省主席李品仙和山东省主席于学忠，要求他们按照军令部的方案支援苏北。但是，无论是李品仙，还是于学忠，这时自顾都不暇，哪还有可能把部队派到苏北去？
韩德勤等到9月底不见动静，终于忍无可忍，电告蒋“无论环境如何恶劣”，“决率基本部队为主义为国家奋斗到底”。之后于30日下达了总攻击令。结果亦可想而知，韩所部独立第六旅惨遭全歼，其看家的第八十九军军部被歼，军长李守维坠河溺死，总共1.1万人被消灭。
陈毅部迅速占领潘安、东台。而南下增援的八路军黄克诚部，也突破韩德勤的防线，连克东沟、益林、阜宁等地，并于10月10日攻下盐城，进而与新四军会师于东台。眼看国民党在苏北敌后经营多年的根据地，就此即将像河北一样易手于共产党了。
10月19日，依据《中央提示案》，并参酌苏北的形势，参谋总长何应钦及副总长白崇禧联名致电第十八集团军朱总司令、彭副总司令与新四军军长叶挺，指责八路军新四军：1、不守战区范围，自由出动；2、不遵编制，各部自由扩充；3、不服从中央命令，破坏行政系统；4、不打日人，专事军事吞并。
故决予纠正外，命令第十八集团军及新四军之各部队，“限于电到一个月内，全部开到中央提示案第三问题所规定之本地境内。”为配合这一最后通牒式的通告，国民党这时停发了八路军和新四军的军饷，军令部并且秘密拟具了《剿灭黄河以南匪军作战计划》，于11月14日上报蒋介石批准。
中共中央对蒋介石和重庆高层的动向，这时也并不清楚。毛泽东虽然力主由周恩来出面与蒋取得妥协，不希望苏北再战，但是，由于这时于学忠派出的增援部队霍守义部已逼近黄克诚部所占据的益林、东沟一线，苏北方面力主先发制人，以免受到两面夹击。
经过反复考虑，特别是有消息称胡宗南部集中了四个师准备向关中八路军占据的囊形地带区域进攻，毛泽东最终批准刘少奇等人的意见，只是强调不打东北军霍守义部，不打兴化，并限电到5日内准备攻击。11月26日，刘少奇和陈毅发出攻击的命令。以消灭韩德勤主力为目标的苏北曹甸战役打响。然而，这次作战并没有达到预期目的，而且还大大刺激了蒋介石和国民党。