1949年，中原野战军进行顺利的整编，正式改称为第二野战军，下辖3、4、5三个兵团。陈赓、陈锡联和杨勇分别担任司令员。然而，对于5兵团的领导人选，王近山未能当上司令引起了争议。邓政委解释说，虽然王近山在战功上更为突出，但杨勇在其他方面也很出色。5兵团以16军、17军、18军为主力部队，其中有两个红军团从红一方面军继承而来，是兵团的核心骨干。虽然5兵团的番号后来被取消，但其下属的部队至今仍是我军主力。

在解放战争的整编中，中原野战军成为最为顺利的一部分。淮海战役结束后，中野各部在淮北、豫东一带休整。到1949年2月，根据总部的命令，中原野战军改编为第二野战军，下辖3、4、5三个兵团，分别由陈赓、陈锡联和杨勇担任司令员。

陈赓所部一直是总部直接指挥的战略机动力量，在解放战争中先后配合一野、二野和四野作战。陈赓出任兵团司令员理所应当，毫无争议。

陈锡联在二野众将中资历较浅，但战功突出，带兵有方。由于早在抗战时期，陈锡联就是八路军的主力旅长，加之他为人处世好，和上下级关系良好，年仅34岁的他当选为兵团司令员也没有引起争议。

争议主要在于5兵团的领导人选。王近山是公认的二野第一悍将，却没有当上兵团司令，被安排到3兵团担任陈赓的副手。这让王近山有些失落。王近山对陈赓、陈锡联都是服气的，只有在5兵团司令员的位置上没有得到认可，引发了疑问。王近山直接向邓政委问道：“杨勇凭什么担任兵团司令？”从战功来看，王近山似乎更加优秀。然而，邓政委给出了一个高明和艺术的回答，他解释了为什么选择了杨勇，并对王近山的战斗能力予以了肯定。王近山听后释怀，因为作为一名武将，没有什么比战斗能力的肯定更让人自豪的了。

实际上，王近山没有当选5兵团司令员还有其他重要原因。5兵团下辖16军、17军、18军。其中，16军由1旅、2旅和豫皖苏地方部队组成，兵力约2.5万人，军长尹先炳，政委王辉球；17军由11纵及冀鲁豫军区独立的1、3旅组成，兵力约2.5万人，军长王秉璋，政委赵健民；18军以1纵20旅为主力，加上豫皖苏军区的独立旅及几个独立团组成，兵力约2.5万人，军长张国华，政委谭冠三。

5兵团的部队大多数是抗战时期成立的，但也有两个红军团，即16军的46师136团和47师139团。这两个团共有11个红军连，是5兵团的核心力量。

整个5兵团的番号存在了一年后被取消，兵团机关后来兼贵州军区。虽然5兵团的番号不再使用，但其下属的部队至今仍是我军