前哨战：建都之争
一切还要回溯到北伐战争末期。1928年6月4日，皇姑屯平地惊雷，北洋政权最后一任元首张作霖死于关东军阴谋，张氏之死也实质上标志着民国旧军阀时代的终结。但是，当时南京国民政府所能控制的地区只有浙、苏、皖、闽等省。而几大军事集团在北伐战争期间迅速扩张，与南京中央渐成鼎足而立之势。
冯玉祥身兼第二集团军总司令和开封政治分会主席，拥有陕西、甘肃、河南、山东四省，拥有8个方面军、21个军、53个师、5个旅；阎锡山身兼第三集团军总司令与太原政治分会主席，除了根深蒂固的老巢山西，又将势力范围扩张到河北和平津地区，拥有9个军、25个师、8个独立旅；第四集团军总司令李宗仁兼任政治政治分会主席，据有湖南、湖北两个省，该集团军前敌总指挥白崇禧则控制山海关至天津一线。即便实力稍弱的第八中军总指挥李济深，也兼任着广东政治分会主席，据有5个军、21个师。可以说这些归属于青天白日旗下的地方实力派都已具备与蒋介石分庭抗礼的资本。
就在张作霖新死，北伐还没有完全取得胜利时，北方实力派已先给蒋介石来了一个下马威---建都之争。宁汉合流后，南京虽然成为国民政府中央所在地，但首都地位并不牢固。1928年6月，北伐军占领平津，阎锡山被委任为平津卫戍司令后，兴起了一场建都之争。在冯玉祥、阎锡山等人授意下，于《国际周报》上发表《国都问题》一文，从历史、地理、气候、民风等各方面阐述了数条新政府应建都北京的理由。南方的政客与文人则对北京建都论进行驳斥，也从地理位置、国际社会等各方面来证明“首都建在南京已无问题”。
在文人笔战的同时，各方实力派的态度也很重要，先是国民党地方要员和党部发电支持定都南京，紧接着6月18日，第八路军总指挥李济深也致电支持定都南京。随后南京作为国民政府首都才确定下来。这场建都之争表面上看为文人之间的笔战，实质上是国民党几大实力派为各处利益的首次角逐。阎锡山、冯玉祥希望以北京为首都，置于他们的势力范围内，便于控制和孤立蒋介石；而对蒋介石而言，南京关系到江浙财团，又邻近上海便于取得国际支持，固然要捍卫其首都地位。
军事势力大拼盘的形成
1928年7月6日上午8时20分，一场庄严的祭典在北京碧云寺开始，主祭人为蒋介石，冯玉祥、阎锡山、李宗仁为襄祭。这场祭典原本用意是告慰先总理，国民革命军已完成北伐，实现了孙中山的夙愿。然而，打倒北伐军阀就意味着告别了那个军阀之国吗？答案是否定的。实际上这次担任主祭和襄祭的蒋、冯、阎、李四人也正是掌握着军队最多的军头。
那么这几大军事集团是怎么来的？早在1926年蒋介石誓师北伐时，国民革命军的8个军本身就是各方势力的一个大拼盘，谭延?第2军和程潜第6军属湘军系统，朱培德第3军为滇军系统，李济深的第4军和李福林第5军的粤军系统，李宗仁的桂系第7军和唐生智的第8军更是新加入革命阵营的地方实力派，真正掌握在蒋介石手中的只有何应钦的第1军。
在发动第二次北伐前拉拢了北方的冯玉祥和阎锡山两大实力派，除了自己的嫡系第一路军改组为第一集团军之外，决定将冯玉祥的国民联军改组为第二集团军，阎锡山的北方革命军改组为第三集团军，于1928年2月29日下令正式改组。除了上述三大集团外，李宗仁手中的桂系第7军在北伐战争中迅速崛起，2月28日，李氏被任命为第四集团军总司令。3月7日，国民政府又特任第八路军总指挥李济深为国民革命军参谋总长、何应钦为次长。这几股举足轻重的势力组成了国民政府二次北伐的主要军事力量。
蒋介石的南京政府实际控制范围只集中于长江中下游几个省，华北及华中地区都在几大军事集团手中，为了迁就事实，不仅要在军事上给予正名（改组集团军），政治上也要使其名正言顺，这就封了开封（冯玉祥）、太原（阎锡山）、武汉（李宗仁）、广州（李济深）这几大政治分会。到北伐完成后随即形成了蒋介石、阎锡山、冯玉祥、李宗仁、李济深以及关外尚未易帜的张学良六大诸侯并存的局面，此外还有保持着割据状态的云南龙云、贵州周西成、四川杨森、刘湘等大小军阀。
裁军及削藩
1928年7月的北平之行，除了祭奠孙中山之外，蒋还与冯玉祥、阎锡山、李宗仁几大军政大佬商议北伐善后问题，共同签署一个《军事整理案》，准备提交二届五中全会讨论。蒋介石抛出《军事整理案》的核心在于裁军。当时四个集团军加上李济深的第8路军，兵力超过220万人，计有84个军。每月经费超过6400万元，年军费8.7亿元，而当时政府全年只能支付2.1亿元。所以蒋介石在北京谒拜完孙中山灵柩后，随即向各大军政首领明言“今日非裁兵无以救国”。
1928年8月8日，中国国民党二届五中全会在南京中央党部大礼堂举行，主席团由蒋介石、于右任、谭延?、丁惟汾、戴季陶5人组成。会议最核心的内容可以归结到“军事整理案”和“政治问题案”。在军事方面，会议要求全国军队数量必须在最短期间，切实收缩，军费在整个预算上至多不得超过50%。根据《军事整理案》，规定全国军队编成50个师，统辖于中央。这实质上等于收回兵权，压缩地方势力在军事各方面的自主空间。
与军事削藩相辅相成的是“政治问题案”。在会上通过的《政治分会存废案》中，规定各政治分会限于当年底一律取消，不得以分会名义对外发布命令，不得任免特定地域内之人员等。蒋介石欲废除政治分会，实际上就是进行政治削藩，在法理上压缩地方实力派的政治地位。会议到8月15日闭幕。结果并不顺利，尤其是地方实力派强烈抵制《政治分会存废案》，导致中央不得不让步，修改为政治分会延期至1929年3月15日前取消。至于军事整理案则要另行召开会议商议解决。