直至1928年4月，蒋、冯、阎、李四大新军阀集团正式对奉系联合作战。1928年5月9日，阎锡山晋绥军终于攻克石家庄，控制京汉线，徐永昌、杨爱源、商震和张荫梧各部向保定北京进发。此时，蒋系被济南事变拖住，反倒是冯玉祥的第二集团军有抢占北京的意思。但阎锡山却利用与奉系的老关系换得奉系较为和平地交出京津，6月8日，晋绥军进入北京，21日傅作义接管天津。至此阎锡山晋绥军控制晋冀察绥四省与平津两市，实力空前强大。
有了这样巨大的地盘，阎锡山自然要继续扩军，这就是晋绥军在中原大战前的第四次大扩军，其中步兵10个军加两个保安纵队、骑兵4个师、炮兵5个旅，晋绥军总兵力已突破20万，装备水平在蒋冯阎桂四家中排行第二。
不过，阎锡山晋绥军到这时，已经出现了不少问题。从组织体系上，阎锡山的晋绥军在当年的新军阀中最像“集团公司”，内部派系林立，但总体对于“董事长”阎锡山相当拥戴。不过，阎锡山虽有知人善任的爱才一面，也有严格把持领导权的凶残一面，对于敢于危及自己在晋绥军中统治地位的人员，统统以非常手段处置。因此阎锡山手下将领也愿意拉自己的小团队，借机脱离阎锡山控制。但阎锡山晋绥军分出的徐永昌、傅作义、商震等派系，对阎锡山却总是旧情难断，颇有点买卖不成仁义在的意思。这与蒋、冯和桂系确有不同。
大谈“整个的党，统一的国”
有了晋绥军和山西财政作为后盾，阎锡山终于敢于打破“保境安民”或者说是“孤立主义”的自我限制，准备谋求北方乃至全中国的统治地位。但是，阎锡山也有自己的问题，首先就是在国民党体系中他虽然出道较早，但即便在新军阀中也被视为不可信任的“墙头草”。护法战争期间公开叛党几乎成为阎锡山无法抹去的污点。因此，阎锡山很早就认识到夺取国民党正统的重要性。
1930年1月22日，阎锡山在山西太原补行就任国民政府“陆海空军副总司令”大典，趁机提出所谓“整个的党，统一的国，是党国的本身”“如党分派别，国倡南北，是将整个的党变为破碎，统一的国形成分裂，陷党国于大不幸”。从表面上看，阎锡山这段发言也算切中时弊，此前国民党区区一党，竟有沪、宁、汉三个中央党部，和宁汉两套国民政府班子。
1925年11月，邹鲁、林森、谢持等人在碧云寺中山先生灵前开会，决定要把中共和国民党左派革除出党，并将中央执行委员会移至上海，至此西山会议派形成，国民党内出现粤、沪两个对立的中央党部。1926年1月，广东国民党中央结合左派和中共代表召开第二次全国代表大会，正式弹劾西山会议派。西山会议派的上海国民党中央党部也搞了自己的“二大”针锋相对。6个月后，北伐军攻克湖北江西，第二年3月夺占上海、南京。但此时国民党内部再次因为对共产党态度问题导致“宁汉分裂”，至此“三中央二政府”的态势形成。
1928年，奉系东北易帜，国民政府形式上统一中国。但国民党内部派系矛盾却进一步激化。蒋介石试图依靠军事和经济实力强行推动国民革命军编遣及举行第三次代表大会，自然遭到改组派汪精卫和西山会议派的反对。1929年3月15日，国民党“三大”在改组派和西山会议派缺席的情况下召开，反而加剧了各派间的敌意和分裂。
此时，蒋介石因为“军队编遣”和强推“三中全会”成为党政军各地方实权派共同的敌人。不过阎锡山此时仍然对汪精卫改组派深怀敌意，以至于在1929年12月20日与张学良等联名发出“拥护中央统一”的通电，直接导致唐生智倒蒋大败。其后，蒋介石与阎锡山矛盾日渐浮出水面。阎锡山一面大谈“整个的党，统一的国”，一面动员各方共同反对蒋介石整理国民党党务系统以及武力统一全国的计划。
统合西山会议派与改组派
为了争取国民党内部有力势力的支持，阎锡山利用经济手段，将1928年前被蒋介石从国民党党务系统处理掉的大批党务人员请到平津，通过新民读书会等组织予以整合。一心倒蒋的西山会议派和改组派都将联晋作为夺回国民党内正统地位的最好选择，邹鲁等人纷纷涌入山西。阎锡山则一概收入怀中，心底却试图以自身实力统合改组派和西山会议派。
2月10日，阎锡山以退为进，发出“蒸电”，宣称愿意与蒋介石“为今之计，礼让卫国，舍此莫由。锡山窃愿追随钧座共息仔肩”。这副“舍得一身剐也要将皇帝拉下马”的姿态迅速引起了地方实力派的共鸣，桂系、粤系纷纷通电要蒋介石下野，公推阎锡山为“中华民国陆海军总司令”，以冯玉祥、张学良为副手。23日，阎锡山又拉上李宗仁、张发奎以及西南的邓锡侯等联名发出“澜电”，要求全体党员总投票，取决多数，逼蒋下台。
24日，汪精卫发电告阎锡山，表示赞成以全体党员总投票解决党内纠纷，并试图向阎锡山推销汪主党、阎主政、冯主军的主张。3月18日，汪精卫再次电请阎锡山从速组织政府，并表示愿意推举阎锡山为国民政府主席。阎锡山心中笃定统合西山会议派和改组派，避免汪精卫一家独大的主张，坚持要求先调停两派争议，再筹组政府。在阎锡山的坚持下，3月下旬，陈王两人代表改组派，邹鲁、谢持代表西山会议派，赵丕廉、贾景德代表晋绥系，在什刹海开会，讨论组织中央扩大委员会。
5月5日，汪精卫复电赞同改组派与西山会议派在天津所谈“非常”会议抛开一切历史纠纷，召开三全大会和国民大会制订约法的计划。7日，汪精卫起草的北方党务问题宣言送抵天津，提出“克日成立中央党部扩大会议”。13日，各派纷纷对汪宣言稿表示赞同。至此，阎锡山认为党务统合问题已经尘埃落定，自己在正统和大义名分能够与蒋介石分庭抗礼。
5月14日，中原大战爆发三日后，阎锡山眼看汪精卫仍在香港，只得电促这位“元勋先进”北上，“重负本党誉望”，再次保证：“此后党务自应悉听主持，国家既取党治，一切政务自应由党主持。”由此可见，阎锡山为了拉汪精卫，甚至连政府领导权的空头支票都开出去了。可惜，汪精卫此时却得寸进尺，他重提粤二全为唯一合法，直斥西山会议派提出粤沪两个中央共同参加扩大会议的主张是“抱残守缺”。西山会议派随后反击，原本弥合的矛盾在有死灰复燃之势。
阎锡山眼看前线开战，扩大会议却仍是镜花水月，也使出威胁手段，迫使汪精卫在12日发表《中央党部扩大会议之必要》，赌咒发誓“与西山派及实力派妥协决不可动摇”。最终，在阎锡山的主导下，粤二全大会提议召开扩大会议，西山会议派的沪二全大会通电赞同宣言，两家不约而同共用“中国国民党第二届中央执行委员会”的名义。
就这样一直折腾到7月13日，“中国国民党中央党部扩大会议”在北京召开，同日改组派发表召集扩大会议宣言，西山会议派通电赞同宣言。8月7日，扩大会议在北京举行首次正式会议。直至9月1日，阎锡山总算当了“国民政府主席”。但此时晋绥军在津浦线上已经全线溃败，济南丢失。如果能在5月开战前实现西山会议派和改组派联合，并建立政府，至少在争取列强和其他军阀支持方面能起到一定作用，反蒋联军的态势可能为之一变。