中国人民解放军第31军的前身是华东野战军第13纵队。该纵队是由解放战争时期华东军区所属胶东军区部分部队发展而来的。1947年2月，华东军区将所属胶东军区特务团和滨北、东海军分区各一个独立团组成第6师。4月，第6师改称第5师，又以西海、北海军分区各一个独立团和民主救国军独立总队组成第6师。9月，再以北海、滨海、东海军分区各一个独立团组成第7师。8月下旬，胶东军区前线指挥部及所属部队改编为华东野战军第13纵队，共2.3万余人，隶属华东野战军内（东）线兵团。周志坚任司令员，廖海光任政治委员，腾海清任副司令员，陈华堂任副政治委员兼政治部主任，黎有章任参谋长。第5、第6、第7师依次改称第37、第38、第39师。
1949年2月，根据中央军委关于统一全军编制和部队番号的命令，华东野战军第13纵队改称中国人民解放军第31军，隶属第三野战军第10兵团。周志坚任军长，陈华堂任政治委员，姚运良任副军长，黎有章任参谋长，方中铎任政治部主任。第37师改称为第91师，高锐任师长，张英勃任政治委员；第38师改称第92师，徐体山任师长，张英任政治委员；第39师改称第93师，傅邵甫任师长，余明任政治委员。全军共3.2万余人。
1952年5月，第31军归福建军区领导。建国后，长期驻防福建厦门。
中国人民解放军第32军是由山东军区所属胶东军区及其所属部分部队发展起来的。1948年3月，华东军区将山东军区所属滨北、东海军分区各一个独立团及胶东军区特务团组成第5师。5月，又将胶东军区南海、西海、北海军分区各一个独立团组成第6师。第5、第6师成立后，均归胶东前线指挥部指挥。
1949年2月，根据中央军委命令。胶东军区前线指挥部改编为中国人民解放军第32军。隶属山东军区。谭希林任军长，彭林任政治委员兼政治部主任，刘涌任副军长，赵一萍任参谋长。第6师改称第94师，熊飞任政治委员，邬兰亭任副师长；第5师改称第95师，陈奇任师长，阙中一任政治委员。全军共2.1万人。 1950年1月，以山东警备第4、第5团及第2、第3团各一部为基础组建第96师。此时，刘涌任军长，彭林任政治委员，周长胜任副军长兼参谋长，仲曦东任副政治委员兼政治部主任。全军共3.2万余人。
1950年11月，第32军番号撤销，军机关大部充实重建的第8兵团兵团部。第94师（1951年撤销）调归第27军建制；第95师调归军委空军，组建空14师；第96师调归福建军区建制，1952年2月与第86师合编为铁道兵第7师。
中国人民解放军第33军是由华东野战军渤海纵队和在淮海战役中起义的国民党军第59军合编而成的。1947年9月30日，华东军区将所属渤海军区部队，在山东省博兴县小高家改编为渤海纵队。袁也烈任司令员，周贯五任政治委员。下辖渤海军区特务第1、第20团，第二军分区第11团，第四军分区第21团合编组成的新编第11师，共1.3万余人。隶属华东野战军山东兵团。
1949年2月，根据中央军委命令，渤海纵队与淮海战役中起义的国民党军第59军合编为中国人民解放军第33军，属第三野战军第9兵团建制。张克侠任军长，韩念龙任政治委员，张震球、孟绍濂任副军长，欧阳平任政治部主任。第7师改称第97师，杨干三任师长。第11师改称第98师，崔振伦任师长，增旭清任政治委员。国民党起义的第59军所部改编为第99师，傅继泽任师长，秦化龙任政治委员。全军2万余人。
1949年7月，第34军第100师归第33军建制。1950年11月，第33军奉命改编为华东公安部队兼淞沪警备司令部，第97、98、99、100师依次改编为公安第14、15、16、17师，该军番号同时撤销。