第一次反“围剿”胜利后不久，中共中央派项英到中央根据地后，于1931年1月撤销了以毛泽东为书记的红一方面军总前委，成立苏区中央局，任命周恩来为书记，在周未到职前由项英代理；同时成立由苏区中央局领导的中央革命军事委员会，项英任主席，朱德、毛泽东任副主席，毛泽东兼中央革命军事委员会总政治部主任。同年4月，六届四中全会后的中央派出由任任弼时、王稼祥、顾作霖组成的中央代表团到达中央革命根据地，参加苏区中央局的领导工作。
1931年2月，蒋介石派军政部长何应钦兼任南昌行营主任，组织对江西苏区的第二次大“围剿”。蒋介石特此制定了第二次“围剿”的作战方针：“以歼灭赣南匪军为目的，以主力分由东、北、西三方面进剿，一部由南面协调，并依稳扎稳打、步步为营之原则，将匪军严密封锁，逐渐缩紧包围圈，断绝匪军物资来源，最后一举而歼灭之。”
国民党第二次“围剿”所动用的兵力，除参加上次“围剿”的第六、九、十九路军外，又增调王金钰第五路军（辖5个师）和孙连仲第二十六路军（辖3个师）参战，总兵力达20万人。
4月1日，国民党军兵分四路发动进攻，蒋光鼐第十九路军主力2个师由兴国向龙岗、宁都方向前进；王金钰第五路军主力三个半师由泰和、吉安、吉水、永丰向东固、潭头、沙溪方向前进；孙连仲第二十六路军主力2个师由乐安、宜黄向大金竹、洛口方向前进；朱绍良第六路军主力两个半师由南丰、康都向广昌方向前进，开始大举“围剿”江西苏区。
3月上旬，红一方面军制定了反“围剿”计划，提出要“分散密布，坚壁清野”，命令红军立即撤离东固、龙岗地区；红五、八军分别开往宁都、兴国、永丰、宜黄、乐安等处山中；红九、十军分别进入万安、遂川一带策应；红十二、二十军进入吉安、泰和一带；红二十二军进入永新、宁冈、莲花与攸县、醴陵联络；各部必须避实就虚，乘机进攻，分散密布，随时变动，使国民党军无可捉摸，难以防范。
红一方面军决定集中力量打击战斗力较弱的王金钰部，首先争取在运动中歼灭其第二十八师和第四十七师。此时，王金钰第五路军分为三路，向东固推进。第二十八师公秉藩部及第四十七师1个旅为右路，经富田向东固攻击前进；第四十三师郭华宗部为中路，向潭头攻击前进，尔后协助右路进攻东固；第五十四师郝梦龄部为左路，向沙溪攻击前进，尔后协同中、右两路会攻东固。
红一方面军主力在东固山区等待20余日，终于捕捉到了歼灭敌军的战机。5月15日，红一方面军下达作战命令，以红三军团为左路军，红三军为中路军，红四军、红十二军为右路军，共同围歼由富田进犯东固的敌公秉藩师。16日，公秉藩师由富田进犯东固，途中突然遭到红军主力的猛烈进攻，顿时陷入混乱之中，大部迅速被歼。第二十八师无线电队的全部人员和器材均落入红军之手，师长公秉藩亦被当地赤卫队俘获，后被红军误认为白军营部书记予以错释。红军乘胜追击，又歼灭敌军1个旅大部，缴获枪支5000余支，火炮30余门，取得了第二次反“围剿”的首战胜利。
富田战役之后，红军主力星座转移于潭头方向，17日围攻敌四十三师郭宗华部。郭师力不能支，向水南逃窜。红军乘胜追击，于19日在白沙截住逃敌，经激战，全歼敌四十七师1个旅和四十三师一部。白沙战斗，红军缴获各种枪支4000余支，山炮2门。
上述战斗进行之时，孙连仲第二十六路军奉命绕道向红军侧后进攻。5月21日，第二十七师高树勋部在中村与红军遭遇，双方展开激战。22日上午，红三军团和红四军对中村发起猛烈进攻，激战六七小时，于当日下午占领中村，残敌窜回乐安。中村之战，红军歼国民党军二十七师1个旅，缴获各种枪支3000余支。
之后，红军开始挥师东进，迎击朱绍良第六路军。此时，第六路军为避免孤军深入，慌忙向广昌收缩兵力，并从5月23日起，开始由广昌向南丰撤退。红一方面军乘敌军第五师胡祖玉部未及撤离广昌之机，攻歼该师。27日，红军直逼广昌城下，从南北两面展开攻城。经过一天激战，于当晚9时攻克广昌城，歼灭守军第五师一部，重伤师长胡福玉。胡师余部向南丰溃逃。红军取得了第二次反“围剿”中第四仗的胜利。
广昌战斗之后，国民党军第五十六师刘和鼎部约7000人，从宁化仓皇撤回建宁。5月31日，红三军团突然出现在建宁城下，城内守军以为是小股红军，贸然出城迎战，被红军消灭大部，刘和鼎率残部逃往延平，红军顺利进占建宁、泰宁。建宁之战，红军歼敌3个团，俘敌3000余人，缴获枪支2500余支，取得了第二次反“围剿”最后一仗的胜利。
从5月16日至31日，红一方面军在半个月内从赣江之畔一直打到闽北山区，横扫700余里，接连在富田、白沙、中村、广昌、建宁等地打了5个胜仗，歼敌3万余人，缴枪2万余支，痛快淋漓地打破了国民党的第二次“围剿”。
国民党军事当局事后分析失败原因，被迫承认：红军“组织群众，坚壁清野，分散配置，集中攻击之指导要领，均合机宜”；其机动灵活，连续作战，“符合避实击虚之原则，尽其游击性运动战之能事”。而国民党军参战各部，因“历史不同，互信未立，自难密切协同发挥统合战力”，故“以约一倍之兵力，四面围剿，仍感不足”。
在第二次反“围剿”中，红军也失去了一位高级将领。1930年，红一军团成立时，朱云卿出任了参谋长。两个月后，红一军团与红三军团正式组建为红一方面军，朱云卿也由红一军团的参谋长改任红一方面军的参谋长。1931年，在第二次反“围剿”期间，朱云卿身受重伤，他本想继续参加战斗，但身体已经不允许，朱云卿不得不前往后方的红军总医院医治。可惜的是，作为红军的高级将领，朱云卿一直被国民党反动派视为眼中钉，国民党特务也趁朱云卿在医院养伤期间把他暗杀。朱云卿牺牲时年仅24岁。