不过二届五中全会后，蒋介石也开始一步步实现其削藩策略，训政时代的开启也让其能名正言顺地进行一系列强化中央集权的措施。当年10月3日，国民党中央举行第172次常会，通过胡汉民起草的《中华民国训政纲领》，规定在训政时期“由中国国民党全国代表大会代表国民大会领导国民，行使政权”。这一纲领也是鉴于北伐后期军权膨胀，党权被压制，意在提高国民党在国家政治生活中的地位和权力，为其“以党治国”提供法律依据。
同时，蒋介石个人权力也通过对党权的提升得到加强。10月8日，南京国民政府颁布《中华民国国民政府组织法》，当日国民党中常会就任命蒋介石为国民政府主席兼陆海空军总司令，从政治地位上力压阎、冯、李等地方实力派。二届五中全会的《整理军事案》和《政治分会存废案》分别为蒋介石的军事削藩和政治削藩做好准备。1928年12月29日，张学良通电全国宣布东北易帜，最后一个旧军阀的问题解决了，接下来就要正式进行军事削藩。
杯酒释兵权已无可能
1928年1月1日，由蒋介石亲自主持的全国军事编遣会议正式召开，编遣委员会组织机构设委员长一人，由蒋介石兼任，下设委员，由各集团军总司令、海军总司令、军政部长等组成，会议的焦点为各集团军保存兵额及编遣的基本原则。用通俗的话说就是和平军事削藩的具体实施。
此时，除蒋介石之外的各集团军掌权人还没抱团，相反，他们之间矛盾重重，编遣会议上也都从自身利益出发。几大军阀中，冯玉祥的西北军无论部队编制还是数量都最庞大，于是他提出“三有三无加齐全”的裁留原则：有训练者编，无训练者遣；有革命者编，无革命者遣；有战功者编，无战功者遣；枪械齐全者编，不全者遣。根据这个原则，冯玉祥提议第一、第二集团军各编12个师；第三、第四集团军各编8个师，其他部队编8个师，归中央直辖。这相当于在不得罪蒋介石的前提下，把第二集团军地位提升，比其他两个集团军多出4个师兵力，压倒阎锡山、李宗仁等人。
阎锡山对冯玉祥提出的方案表示强烈反对，并提出一个看似更合理的平均原则，也就是说让各集团军裁兵采取平均主义，第一、第二集团军各编10个师，第三、第四集团军各编8个师，其他部队编6-8个师，余6-8个师归中央管辖。这样一来，蒋介石仍然不受影响，而阎锡山的第三集团军和李宗仁的第四集团军兵额还可以扩张，只有兵力较多的冯玉祥吃大亏。会议很快就形成蒋、阎、李三家吃冯一家之局，冯玉祥因此愤愤不平。
经过半年多月的博弈，会议于1月17日通过《国军编遣进行程序大纲》，决议全国设置中央编遣区外，其余分为六个编遣区实行编遣，基本按照阎锡山的方案来决议，各集团军均保留11个师，中央可控制两个编遣区。并规定“缩编全国现有之陆军步兵，至多不得超过六十五师，骑兵八旅、炮兵十六团、工兵八团，共计兵额约八十万，空军海军另定”。
在武人当国的时代，要通过和平手段削藩几乎不可能。编遣会议虽然通过了裁军议案、大纲，但实际执行时却遇到极大阻碍。首先是会上吃了大亏的冯玉祥消极对待。他认为蒋介石处事不公，串通几家开黑房坑他一家。至于其他几家，也同样各怀心思，谁也不愿意真正削自己的兵权，最后的结果就是阎锡山、冯玉祥、李济深等人先后不辞而别，“所谓编遣乃至无果而散”。蒋介石的杯酒释兵权计划遂告破产。
高举“党权”大旗
编遣会议后的执行阻力让蒋介石意识到，和平进行军事削藩已无可能，必须做好进行削藩战争的准备。有资料说，蒋介石的削藩策略是出身政学会的杨永泰所献，杨氏根据当时地方势力派合纵局面，向蒋介石提出“削藩策”之步骤：军事解决第四集团军，政治解决第三集团军，经济解决第二集团军，外交解决东北军。
在几个集团军中，第四集团军兵力相对弱，而且控制范围很广，自两广而起，李宗仁坐镇武汉控制两湖，奉军退出关外后，白崇禧率部讨伐张宗昌，随后驻扎冀东到山海关一带。而对于蒋介石而言，桂系自两广、两湖到华北，无疑是对南京政府的三重包围。犯忌、分散、兵力又相对较弱，加上桂系四处拉拢政治势力，连云南派来的人都看出桂系行为叵测，必然成为军事打击的首要目标。但兵不能师出无名，蒋介石还需要搞一个类似“替天行道”的名头，这就涉及国民政府这个新体制有另于北洋政府的另一面---党权。
自1928年10月，南京国民政府公布《中华民国国民政府组织法》以来，规定国民政府总揽中华民国之治，正式实行五院制。军阀割据称雄之现状与国民政府所标榜的“以党制国”主张明显不符，这为蒋介石的削藩提供了合法性。1929年3月15日，国民党第三次全国代表大会召开。这次大会基本等同于对桂系的讨伐动员会，但当时反对用兵的国民党元老不在少数，而党内德高望重的胡汉民坚定站在蒋介石立场，认为讨桂势在必行。胡汉民还以大会主席身份，提议开除李宗仁等桂系将领之党籍，为蒋介石出兵提供更为合法的依据。
接下来的行动都顺理成章：3月21日，蒋介石囚禁李济深；3月27日，蒋桂战争爆发，过程出奇顺利，仅用两个月时间就平定了桂系。接下来的蒋冯战争乃至中原大战，蒋介石都采用军队与党权并用之法，最终取得胜利。蒋介石相比地方实力派始终占据两个优势：其一，他掌握着中央政权，又有江浙财阀支持，经济实力远远超过对手。其二，在国民党的党国体制下，蒋介石始终没有放弃对党权的控制，从政治上瓦解对手。