自一、二、四方面军会师后，中共中央便开始了批判张国焘的准备。最初的工作是秘密进行的。当红军总部人员随朱德、张国焘到达保安后，毛泽东会见了一些干部，了解情况。张国焘来到中央后，虽然还保留着红军总政委的职务，但除了出席中央政治局会议，一些具体事情都不管了。他已经不能像当初在红四方面军中那样说一不二，称王称霸。这期间林育英以共产国际代表身份与张国焘谈了几次话，指出他的错误，希望他对中央有个交代。他自己也意识到错误的严重性，于是张国焘在1937年2月6日写了《从现在来看过去》一文，对自己的错误进行了初步检讨，承认了五点：

第一，没有充分估计到五次“围剿”中的客观情况，五次“围剿”中敌人采用战略战术的特点，和中国革命不平衡发展的特点，这样就过分估计了五次“围剿”中的主观错误。第二，在中央红军突围成为必要后，敌人追击的严重性，远过于红四方面军西征时敌人所给予的压迫，对于这点，估计也是不足的。这就抹杀了中央红军万里长征的英勇奋斗和布尔什维克的坚强。

第三，因为有了上述两个观点，同时对五次“围剿”所受的损失也估计过分，就发生当时对中央所提出战略方针的怀疑。虽然一致同意北上方针，但将中央北上之方针了解成为这不过是长期大规模的运动战和游击战争的实际，提出了在比较更西北地区来创造根据地的另一战略的意见。第四，同样对于中央苏区对党、苏维埃和红军各方建设工作所获得的成绩估计不够，并对中央同志根据中央苏区经验所给予四方面军的错误和缺点的批评表示不接受和误解。第五，在左路军北上受到阻碍的条件下，以为北上既然会成为大规模运动战，倒不如乘虚南下。因此，成为北上和南下的对立，红军分开行动，发展到对中央路线不正确的了解和组织上的对立。

张国焘用晦涩的文字很不情愿地承认错误。当初他骂中央是“逃跑”，现在换成了“大规模运动战”。他另立“中央”，开除毛、周、张、博的党籍，仅仅说成是“组织上的对立”。如此的轻描淡写，文过饰非。涉及要害问题，张国焘仍然不肯认错。对南下北上之争，他说：“假若南下没有发生党和红军组织上的对立，那么南下和北上不过是军事策略上的争论。如果认为南下是失败的，那是不应当的。对另立”中央“，他承认：“最严重的错误是组织上的对立。否认四中全会以来的中央而自称‘中央’。这是政治上错误的结果和组织原则上错误的表现。总而言之，张国焘对自己的评价是：“从一、四方面军会合时起到12月决议时止，这一阶段中我自己的确犯了反党反中央的错误。虽然12月决议开始了转变，没有再继续这一错误，向着和党一致的路上转变，但这一过去有过的错误，是应当严重指出的。”

张国焘的第一次检讨，中央是不满意的。1937年2月27日，凯丰在延安发表了洋洋数万言的长篇文章---《党中央与国焘路线分歧在哪里》。文章分为13部分，涉及对政治形势的估计，南下北上问题，一、四方面军团结问题，党的建设，肃反，民族统一战线等方面。在这篇文章中凯丰透露了一些以前没有提及的内容，反映了中央对张国焘问题的基本态度。

关于一、四方面军草地分裂的问题，凯丰写道：“当中央发觉国焘私自给徐、陈南下密电时，曾详述南下的不利，并劝其仍率队北上。但国焘当时毫无转机，中央不得不再电国焘。国焘同志对中央的电报，完全不采纳，于是中央给徐、陈指令，并给国焘指令，命令总政委立即率左路军向阿西、巴西、班佑开进。”他还写道：“北上战略是中央政治局决定的，不经过中央政治局，没有任何人有权力改变这种方针的。国焘身为政委应当坚决执行党中央的命令，可是国焘却能用私人的意志去改变这一战略方针，这还有什么政治委员的资格？以这样一个糊涂的政治委员怎样还能去加强党在红军的绝对领导，因为国焘自己对党与红军的关系都是这样糊涂，所以他下面的干部不能不叫出‘武力解决中央’的话来。在国焘给徐、陈的密令，要彻底对中央开展斗争。”

张国焘错误的性质，经凯丰这样一说，被提升到前所未有的高度。国焘给徐、陈的南下电报，陈昌浩都给中央看过，所以中央才与张国焘争论了好几天。但是还从未听说四方面军哪个人说要“武力解决中央”。凯丰这篇文章是批判张国焘过程中最早提及“密电”和“武力解决中央”问题的，从而给张国焘的错误上纲到“路线斗争”。对张国焘的军阀主义，凯丰更是大加讨伐。

在这篇长文章的结尾，凯丰给张国焘下的结论是：“国焘同志所代表的这种政治路线，是苏维埃运动中所产生的形式，右倾机会主义、军阀主义的路线。他的客观根源则由于中国的军阀制度和农民狭隘落后意识，流氓破坏意识的反映。他的主观原因则是由于国焘同志有过去错误的根源。在四中全会时，国焘曾反对这种错误，但他没有彻底肃清他的错误。在与中央隔离，在没有中央的领导之下又发展起来。而成为在苏维埃运动中的右倾机会主义退却逃跑路线和军阀、土匪主义的路线。”

这篇文章是全面批判张国焘路线的序曲，高潮还在后面。但是凯丰的文章把四方面军贬得一无是处，把这个人数众多、有光辉战绩的红军队伍丑化成“土匪”“军阀”的队伍，是极“左”的，带有强烈宗派主义倾向的。这也为批判张国焘路线中的扩大化倾向开了先例。

张国焘虽然离开了部队，但他在红四方面军中的影响不可低估。此时，西路军还在河西走廊血战，陕北的4军和31军都是红四方面军的老部队，在红四方面军中批判张国焘是否能获得预期的效果，是否会因此而引起部队的混乱和失控。毛泽东感到没有把握。他需要掌握第一手资料，切实了解红四方面军部队的思想情况。1937年2-3月间，他派红军大学教育长罗瑞卿以考察部队的名义，到二、四方面军走了一圈。

罗瑞卿认真地执行了毛的使命，名义上是考察二、四方面军，但重点在四方面军。从2月下旬起，罗瑞卿白天察看部队的训练、生活和政务思想情况，晚上听取部队首长的汇报，还找一些主要负责人单独谈话。紧张地走了一个月，3月22日，他在庆阳步校给毛泽东、张闻天和林彪写了一个长篇报告。关于四方面军的基本情况，罗瑞卿指出：会师后“在干部中，在领导干部中，在一般党员中，在战士中，并没有了解党的路线的正确与过去四方面军领导上、路线上的错误。”罗瑞卿强调：张国焘在四方面军的影响还是很深的。具体的例子是，当与大家谈到“南下北上”的问题时，大多数人认为“南下北上”都是对的。

罗瑞卿承认：四方面军部队的成分是极好的。来自鄂豫皖和通南巴的占全军百分之八十。连以上绝大多数是鄂豫皖的老红军。战士体力强，天资聪明活泼。若有好的教育，可以出大批的干部。但是政治水平很低，有的人对揭发过去的错误不满，因为他们对张国焘个人的迷信超过了对党的认识很远。罗瑞卿的报告最后说：“有些干部目前不负责任，甚至烦闷。罗瑞卿的报告反映出四方面军中存在的不少问题，关键是张国焘的影响依然存在，四方面军中的许多干部还没有认识到张国焘错误的严重性，与张国焘划清界限，真正站到中央的立场上来。因此，必须对张国焘进行彻底的批判。

此时，四方面军的许多干部也感觉到沉重的压力。从上级派人来考察部队，4军和31军领导人的变动，以及中央转发张国焘的检查和凯丰的文章，都是一场党内重大斗争即将开始的前兆。西路军的坏消息不断传来，当3月中旬，援西军政委张浩宣布西路军失败的消息，4军和31军的干部战士都痛哭起来。有的人终日情绪低沉，打不起精神，不知会有什么样的命运降临到自己头上。张国焘对西路军的失败极为痛心，他感到：“如果说一方面军在二万五千里长征时只剩下一副骨头架子，那么西路军连脊梁骨也被敌人打断了。“