該軍前身是黔西地區保安團等地方武裝。1949年2月，國民黨軍為加強在西北地區的防禦力量，將黔西地方保安團等地方武裝合編組成第89軍，隸屬第13編練司令部。王伯勛任軍長，下轄第91、第103、第147師。4月，第13編練司令部改編為第19兵團時，第89軍軍長王伯勛任兵團副司令官，劉伯龍繼任軍長，同時，對部隊編制進行調整，原轄3個師改編為第328、第343兩個師。其中第328師，張濤任師長；第343師，項榮任師長。8月，該軍在貴陽綏靖主任谷正倫的指揮下，以主力開黔東地區布防，另壹部開銅仁守備。10月，第2野戰軍楊勇兵團向貴州進軍時，該軍未戰先退至貴陽。11月中旬後，又撤出貴陽，向黔西大定、畢節地區逃竄，沿途自行招兵買馬並擴編部隊。此時，谷正倫、何紹周、王伯勛、劉伯龍為爭奪兵權，矛盾激化，劉伯龍被捕殺，張濤升任軍長。12月7日，張濤率領該軍在貴州普安通電起義，接受人民解放軍的改編。