中国人民解放军第1军的前身，是土地革命战争时期的中国工农红军第2军团，抗日战争时期的八路军第120师第358旅，解放战争时期西北野战军第1纵队。第1军所属部队创建于1927年至1928年。部队由两部分组成：一部分是湘鄂边工农武装组成的中国工农红军第4军；一部分是两湖(湖南、湖北)秋收暴动和年关暴动的工农游击队组成的中国工农红军第6军，1930年7月，红4军和红6军在湖北公安会师，组成中国工农红军第2军团，贺龙任总指挥，周逸群、邓中夏先后任党代表，下辖红2军(原红4军)和红6军。1931年3月，红2军团奉命改为红3军。1932年9月，第四次反围剿失败，红3军被迫退出洪湖苏区。1934年10月，红3军与从湘赣苏区西征到贵州的红6军团在印江县木黄会师。此时红3军恢复红2军团番号，贺龙任军团长，任弼时任政治委员，关向应任副政治委员。1935年11月，红2、红6军团开始长征，1936年10月，与红一方面军在甘肃静宁将台堡会师。
1937年8月，红2军团改编为八路军第120师第358旅，卢冬生、张宗逊先后任旅长，李井泉、张平化先后任政治委员，整编后即开赴华北抗日前线。在华北敌后坚持了八年抗战，部队先后扩编了张(宗逊)第358旅，彭(绍辉)第358旅，独立第1、第2旅。1946年11月，在山西省岚县地区，以晋北野战军领导机关一部及晋绥野战军第358旅、独立第1旅组成晋绥军区第1纵队，共8300人。张宗逊任司令员，廖汉生任政治委员，王绍南任参谋长，冼恒汉任政治部主任。纵队成立后，即西调延安附近集结，担负保卫陕甘宁解放区的任务。1947年2月，编入陕甘宁野战集团军，7月31日，编入西北野战军。12月，晋绥军区在山西晋中地区组成的独立第7旅，拨归第1纵队建制
1949年2月1日，第1纵队改称中国人民解放军第1军，隶属第一野战军建制。贺炳炎任军长，廖汉生任政治委员，陈外欧任参谋长，冼恒汉任政治部主任，夏耀堂任后勤部部长。第358旅改称第1师，黄新廷任师长，余秋里任政治委员，独立第1旅改称第2师，王尚荣任师长，颜金生任政治委员；独立第7旅改称第3师，傅传作任师长，曹光琳任政治委员。全军共2.2万余人。6月中旬，留在晋中地区的第3师(原第1纵队独立第7旅)归建。6月17日，编入第1兵团。10月1日，第1军兼青海省军区。
1952年6月，再次进行整编，第3军所属各师编入第1军，第1、第3师合编为第1师，第2、第8师合编为第2师，第7、第9师合编为第7师。黄新廷任军长，梁仁芥任政治委员。12月，参加中国人民志愿军抗美援朝。第1、第7师在临津江两岸的马良山、老般山一线担负坚守阵地任务，第2师配属第64军执行西海岸抗登陆任务。1958年10月回国。 回国后，部队驻守河南开封，担负一线警戒战斗任务。
中国人民解放军第2军的前身是土地革命战争时期的湘东独立第1师，红军长征时期为红二方面军第6军团。抗日战争时期为国民革命军第八路军第120师第359旅，解放战争时期西北野战军第2纵队。 1930年9月，中央红军第一次反“围剿”前夕，由莲花、万载、浏阳、茶陵、醺陵、萍乡等县游击队组成的湘东独立第1师，在湘赣苏区（井冈山革命根据地）萍乡县大安里诞生，共800余人。刘沛云任师长，谭思聪任政治委员。 1932年11月，湘东独立第1师在江西永新划入红8军序列，番号为中国工农红军第8军第22师。
1933年6月15日，红8军于江西永新县改编为红军第17师。6月，奉中革军委命令，湘赣苏区的红军组成红6军团。8月12日，红6军团在湖南省桂东县正式成立。任弼时任红6军团军政委员会主席，萧克任军团长，王震任政治委员，李达任参谋长，张子意任政治部主任。 1934年10月24日，红6军团在黔东印江县木黄与红3军胜利会师。会师后，红3军恢复红2军团番号，贺龙任军团长，任弼时任政治委员，关向应任副政治委员，并以红2军团总指挥部统一领导和指挥红2军团和红6军团。1936年7月5日，红2、红6军团及红32军组成红二方面军。 1937年8月，红二方面军改编为八路军第120师，红6军团和红32军改编为第359旅。陈伯钧任旅长，王震任副旅长，刘子奇任参谋长，袁任远任政治部主任。1945年10月5日，编入中原军区第2纵队。
1946年6月27日，第359旅随中原军区主力参加中原突围，11月，在山西省离石地区，与吕梁军区机关一部、独立第4旅组成晋绥军区第2纵队，王震任司令员兼政治委员，彭绍辉、马佩勋任副司令员，罗贵波任副政治委员，张希钦任参谋长，王恩茂任政治部主任，共8600余人。
1949年2月1日，第2纵队改称中国人民解放军第2军，隶属第一野战军建制。王震任军长兼政治委员，郭鹏、顿星云任副军长，王恩茂任副政治委员，张希钦任参谋长，左齐任政治部主任，甘祖昌任后勤部部长。独立第4旅改称第4师，杨秀山任师长兼政治委员；第359旅改称第5师，徐国贤任师长，李铨任政治委员；独立第6旅改称第6师，张仲瀚任师长，曾涤任政治委员。全军共3.4万余人。5月，抽调部队组建骑兵师。1952年3月，骑兵师撤销。1953年3月，第2军番号撤销，军部整编为南疆军区；第4师整编为步兵第4师；第5、第6师整编为新疆农业建设第1、第2师。
中国人民解放军第3军的前身是西北野战军第3纵队。1945年8月11日，由晋绥军区4个旅组成的晋绥野战军，贺龙任司令员，关向应任政治委员，辖第358旅，独立第1、第2、第3旅。1946年11月10日，中央军委决定撤销晋绥野战军番号。同时在山西省朔县地区，以晋绥野战军司令部一部及晋绥野战军独立第二第3、第5旅组成晋绥军区第3纵队，共1.5万余人。许光达任司令员，孙志远任政治委员，贺炳炎任副司令员，李夫克任参谋长。1947年8月初，第3纵队将独立第3旅留在晋西北，率独立第2旅西渡黄河，开赴陕甘宁解放区与独立第5旅会合，转隶西北野战军建制。
1949年2月1日，第3纵队改称中国人民解放军第3军，隶属第一野战军建制。军长许光达，副政治委员朱明(后朱明任政治委员)，参谋长李文清，政治部主任江勇为，供给部部长刘华香。独立第2旅改称第7师，唐金龙任师长，梁仁芥任政治委员；独立第3旅改称第8师，杨嘉瑞任师长，孟昭亮任政治委员；独立第5旅改称第9师，朱声达任师长，王赤军任政治委员。全军共2.1万余人。1952年6月与第1军合并，第3军番号撤销。军部改编为西北军区军政干部学校，第7、第9师合编为第1军第7师，第9师师部改编为中国人民解放军炮兵第15师师部，第8师与第1军第2师合编，第8师师部改编为华北空军第27驱逐师师部。
中国人民解放军第4军的前身是西北野战军第4纵队。1942年5月，中央军委决定由八路军第120师、晋西北新军和留守兵团等部编成晋绥联防军。贺龙任司令员，关向应任政治委员，领导陕北各军分区和警备旅。1947年9月21日，在陕西省(木旬)邑县(今旬邑县)，以陕甘宁晋绥联防军警备第1旅、 第3旅和骑兵第6师，组成第4纵队，隶属西北野战军建制。王世泰任司令员，张仲良任政治委员，阎揆要任副司令员兼参谋长，李宗贵任政治部主任，全纵队1.1万余人。
1949年1月，警备第4旅拨归第4纵队建制。2月1日，第4纵队改称中国人民解放军第4军，隶属第一野战军建制。王世泰任军长，张仲良任政治委员，孙超群任副军长，朱辉照任副政治委员兼政治部主任，张文舟任参谋长，王国瑞任后勤部部长。警备第1旅与骑兵第6师1个团合编成第10师，高锦纯任师长，左爱任政治委员；警备第3旅改称第11师，郭炳坤任师长，高维嵩任政治委员；警备第4旅与骑兵第6师(缺1个团)合编组成第12师，郭宝珊任师长，李宗贵任政治委员。全军约1.9万余人。1952年9月，撤销第4军番号。军部改编为中央军委城防高射炮兵学校；第10师师部改编为炮兵第10师师部，其部队编入第11师；第12师改编为铁路公安部队。
中国人民解放军第5军的前身是新疆民族军。 1944年9月2日，新疆北部尼勒克县乌拉斯台地区人民举行武装暴动，这场暴动发展到伊犁、塔城、阿勒泰地区，亦称“三区革命”。
1945年4月8日，在伊宁以暴动队伍组成的游击队指挥部为基础，成立新疆民族军。帕里诺夫任总指挥，祖农?太也夫任副总指挥，玛加诺夫任参谋长，阿不都克里木?阿巴索夫任政治部主任，下辖8个团又4个营
共1.5万余人。1946年6月，民族军按照三区临时政府与国民党政府谈判签定的以和平方式解决武装冲突之条款（即“11项和平条款”）进行整编，部队减为6个团共1.3万余人。
1950年1月10日，民族军在伊宁改编为中国人民解放军第5军，法铁伊?伊凡诺维奇?列斯肯任军长，顿星云任政治委员，伊斯哈科夫?马尔果夫任副军长兼参谋长，曹达诺夫?扎伊尔任副政治委员，努利耶夫任政治部主任，辖第13师，买买提?伊敏诺夫任师长，马洪山任政治委员；第14师，阿里木坚诺夫?乌拉拜音任师长，胡正任政治委员。另直辖2个骑兵团，共1.3万余人，归第一野战军暨西北军区建制。
1952年3月，由第2、第6军抽调部队组建第15师，冯祖武任师长，贺劲南任政治委员。1953年5月，由第13师组建喀什军分区，第14、第15师改编为农建第3、第4师。1954年10月，第5军军部改编为新疆哈萨克自治区军区（后改为伊犁军区），第5军番号即予撤销。