1911年，當辛亥革命的風暴席卷神州大地之際，毅然選擇了從軍之路。當時，親朋好友多不贊成此舉，他卻慨然作答：“大丈夫當仗劍拯民於水火，豈顧自己壹身之富貴？”他剪掉辮子，懷著富國強兵的強烈信念，投入了孫中山領導的民主革命。
1912年2月考入重慶蜀軍政府開辦的將校學堂，學習各門近代軍事課程，同時熟讀中國古代兵書，《孫子》、《吳子》等經典名著的許多章節出口能誦。在將校學堂10個月，他不但學業出眾，而且以舉止端正、操守有持、惡習不沾聞名全校，被同學們稱為軍中“菩薩”。
1912年底畢業後被分派到川軍第5師熊克武部，先後任司務長、排長、連長。
1913年參加四川討袁之役，失敗後於1914年在上海加入孫中山領導的中華革命黨。
1915年底奉命返回四川，拉起400余人的隊伍，組成川東護國軍第4支隊。
1916年3月在指揮攻打豐都縣城時，右眼中彈致殘。在療傷過程中，他為了不損害腦神經，強忍鉆心的疼痛，堅持不施麻藥，被為其主刀的德國醫生贊嘆為“軍神”。
1917年參加護法戰爭，任川軍第5師第9旅參謀長、四川督軍署警衛團團長。
1923年參加討伐北洋軍閥吳佩孚的戰爭，任東路討賊軍第1路指揮官，取得馳援龍泉驛等戰鬥的勝利。8月在作戰中右腿負重傷。在成都治療期間，結識川籍***產主義者楊闇公、吳玉章，開始接受馬克思主義。
1924年10月起，隨吳玉章到上海、北京、廣州等地考察國民革命形勢和中國社會現狀，途中所見所聞，使他堅定了***產主義信仰。
1926年5月經楊闇公、吳玉章介紹，正式加入中國***產黨。12月任中***重慶地委軍事委員會委員，奉命與楊闇公、朱德等發動瀘（州）順（慶）起義。由於他熟知川軍情況且素負眾望，被賦予“國民革命軍川軍各路總指揮”的重任。在歷時167天的起義過程中，他調兵遣將，進退有方，安民治政，措置裕如，有力地策應了北伐戰爭，實現了中***中央關於抑制四川軍閥部隊東下威脅武漢的戰略目的。 1927年4月被武漢國民政府任命為暫編第15軍軍長，這是中***黨員在國民革命軍中被任命的第壹個軍長職務。7月下旬秘密轉赴南昌，與周恩來、賀龍、葉挺、朱德等領導了震驚中外的南昌起義，任中***前敵委員會參謀團參謀長。同年底奉派赴蘇聯學習軍事，先入莫斯科高級步兵學校，後轉入伏龍芝軍事學院。剛到蘇聯時，為攻克俄文關，他“視文法如錢串，視生字如銅錢，汲汲然日夜積累之；視疑難如敵陣，惶惶然日夜攻占之，不數月已能閱讀俄文書籍矣。”
1930年夏學成回國，先後任中***中央軍事委員會參謀長、長江局軍委書記兼參謀長、中央軍委委員，協助中央軍委書記周恩來處理軍委日常工作，舉辦短期軍事訓練班，並負責講授暴動方略、遊擊戰、運動戰等課程。
1932年1月前往中央蘇區首府瑞金，任中央軍事政治學校校長兼政治委員。10月任中國工農紅軍總參謀長，協助朱德、周恩來在前方指揮作戰，取得第四次反“圍剿”作戰的勝利。期間，撰寫《現在遊擊隊要解答的問題》、《到敵人後方開展遊擊戰爭的幾個教訓》等，並翻譯多篇蘇軍教材和理論文章，促進了紅軍幹部軍事素質的提高。
1934年在第五次反“圍剿”中，因反對***產國際派來的軍事顧問李德在作戰指揮上的教條主義和專橫作風而被撤銷總參謀長職務，降任第5軍團參謀長。
長征初期，協助軍團長董振堂執行後衛任務，掩護中央機關通過國民黨軍四道封鎖線。1934年底復任紅軍總參謀長，兼中央縱隊司令員。
1935年1月指揮先遣部隊突破烏江，智取遵義，甩開了敵軍主力，使傷亡大半、疲憊不堪的中央紅軍獲得了壹次難得的短期休整。遵義會議上，他堅決擁護毛澤東的主張。會後，協助毛澤東等組織指揮了四渡赤水、二進遵義等戰役，使部隊跳出了敵軍包圍圈，直插雲南北部，並親率幹部團搶占皎平渡，保障全軍渡過天險金沙江。5月兼任紅軍先遣隊司令，同政治委員聶榮臻率部進入大涼山，與彜族首領小葉丹歃血為盟，使全軍順利通過彜族聚居區。繼而指揮所部在安順場強渡大渡河，打開紅軍北上的通路。紅壹、紅四方面軍會合後，堅決執行中***中央關於北上抗日的方針，在逆境中和朱德壹起同張國燾的分裂活動進行了鬥爭，被張國燾撤銷總參謀長職務，降為紅四方面軍紅軍大學校長。
1936年10月紅軍三大主力會師後，任前敵總指揮部參謀長、紅軍總參謀長、援西軍司令員等職。 抗日戰爭爆發後，任八路軍第129師師長，和政治委員鄧小平壹起，率部奮戰在太行山上。面對不可壹世的日本侵略軍，他經常用“勇是男兒頭上的桂冠”、“無角綿羊受欺壓，有蟄的黃蜂不可侮”等話語來激發將士們的對敵鬥爭信心。他指揮部隊先後進行了夜襲陽明堡、設伏七亙村以及長生口、神頭嶺、響堂鋪、晉東南反“九路圍攻”、冀南反十壹路“掃蕩”、百團大戰中的正太榆遼等壹系列著名戰役戰鬥，給侵華日軍以沈重打擊，創建了晉冀魯豫抗日根據地。他堅決執行中***中央、中央軍委的戰略方針，積極組織正規軍、遊擊隊和民兵相結合的遊擊集團，並組建大量武裝工作隊，實行“敵進我進”，向敵占區、交通線廣泛出擊，粉碎了日偽軍的頻繁“蠶食”和殘酷“掃蕩”。與此同時，他率部多次反擊國民黨頑固派對根據地的進犯，牢牢把緊太行山這道華北抗日根據地的“南大門”，使“平遼半壁山”得以免遭敵寇的蹂躪塗炭。
1942年，他與鄧小平領導根據地軍民實行生產自給，減租減息，精兵簡政，度過了抗日戰爭最為艱苦的歲月。
1943年9月赴延安參加整風運動。
1945年6月當選為第七屆中央委員。
日本投降後就任晉冀魯豫軍區司令員，於1945年9～11月率部發起上黨戰役和邯鄲戰役，殲北犯的國民黨軍近6萬人，並爭取其第十壹戰區副司令長官兼新編第8軍軍長高樹勛率部起義，有力地配合了中***在重慶與國民黨的談判，打破了蔣介石北進的戰略企圖，為實現黨中央“向北發展，向南防禦”的方針作出重要貢獻。 內戰全面爆發後，兼任晉冀魯豫野戰軍司令員，與鄧小平指揮所部以大踏步的運動戰，於1946年8月～1947年5月先後取得隴海、定陶、巨野、鄄城、滑縣、巨金魚、豫皖邊、豫北等壹系列戰役的勝利，殲敵數十萬，解放大片地區，挫敗國民黨軍的戰略進攻，有力配合了其他戰場的作戰。
1947年6月30日，根據中***中央、毛澤東關於“大舉出擊，經略中原”的戰略決策，與鄧小平率領晉冀魯豫野戰軍主力12萬人在300裏正面上壹舉突破國民黨軍“黃河防線”，發起魯西南戰役。他采取“攻其壹點，吸其來援，啃其壹邊，各個擊破”戰法，指揮部隊經過28天連續作戰，取得殲敵4個整編師6萬余人的重大勝利，揭開了人民解放軍戰略進攻的序幕。8月，劉鄧大軍分三路揮師南下，開始了千裏躍進大別山、直搗國民黨統治腹心的壯舉。途經汝河時，在前有阻敵、後有追兵的緊急關頭，提出“狹路相逢勇者勝”的響亮口號，並和鄧小平親臨前衛團指揮作戰，終於殺開壹條血路。隨後，在遠離根據地、無後方作戰的困難條件下，粉碎敵人33個旅對大別山的重點進攻。繼而與出擊隴海線的華東野戰軍外線兵團、挺進豫西的陳謝集團密切協同，在江淮河漢之間大量殲滅敵人，逐步在鄂豫皖邊地區完成戰略展開，實現了中央和毛澤東設想的最好前途——站穩腳跟，創建鞏固的根據地。經過10個多月的艱苦作戰，殲敵30余萬人，解放縣城100余座，開辟並擴大了中原解放區，形成三路大軍互為犄角、機動殲敵、逐鹿中原的大好局面，迫使國民黨軍陷於被動防禦地位，對扭轉全國戰局起了決定性的作用。毛澤東把以劉鄧大軍挺進大別山為起點的戰略進攻稱作中國革命“歷史的轉折點”。
1948年5月起任中原軍區、中原野戰軍、第二野戰軍司令員。11月，根據中央軍委決定，與鄧小平、陳毅、粟裕、譚震林組成總前委，統壹指揮中原、華東兩大野戰軍進行淮海戰役，同徐淮地區的國民黨軍主力進行戰略決戰。他戰前提出：“我們的打法是夾其額、揪其尾、斷其腰，置之於死地而後已。”戰役第壹階段，在殲滅黃百韜兵團的同時，他和鄧小平、陳毅根據戰場實際情況，果斷地指揮部隊截斷徐蚌鐵路，使徐州之敵完全陷入孤立。接著他和鄧小平指揮中原野戰軍主力在雙堆集地區圍殲黃維兵團，成為準海戰役承前啟後的關鍵壹仗。整個淮海戰役以殲敵55萬余人的巨大勝利而告終，大大地加速了全國解放戰爭的勝利進程。 1949年4月參與指揮渡江戰役，實施京滬杭會戰，並親自指揮第二野戰軍主力分三路直出浙贛鐵路，解放了皖南、浙西、贛東北、閩北廣大地區。南京解放後任中***南京市委書記兼市長、南京市軍事管制委員會主任。11月與鄧小平率部進軍西南，12月任西南軍政委員會主席、中***中央西南局第二書記。他出色地執行了毛澤東提出的遠距離迂回包圍的作戰方針，拊敵側背，斷敵逃路，各個殲敵，同時通過軍事打擊和政治爭取，促成大批國民黨上層軍政人員率部起義和投誠，在近半年的時間內***殲敵約90萬人，解放四川、雲南、貴州三省和西康省大部，徹底粉碎了蔣介石割據西南、伺機反攻的企圖。與此同時，他還領導了剿匪作戰和進軍西藏的準備工作，為鞏固西南邊疆作出了開拓性的貢獻。
1950年11月建議並受命在南京組建中國人民解放軍軍事學院，任院長兼政治委員。為了辦好這所人民解放軍第壹個諸軍兵種合成的高等學府，他嘔心瀝血，鞠躬盡瘁，親自培訓師資、撰寫審定和翻譯教材，常常是“三更燈火五更雞”，宵衣旰食，手不釋卷。他通過在軍事學院陸續創立海軍、空軍、炮兵、裝甲兵、防化兵、情報等系，繁衍發展了我軍諸軍兵種齊全的指揮院校體系，培養了大批德才兼備的中高級軍官。他在教育訓練軍事人才方面所作出的貢獻，對國防和軍隊建設有著深遠的影響。
1954年起先後任中央人民政府人民革命軍事委員會副主席、國防委員會副主席、軍委訓練總監部部長。
1955年9月獲壹級八壹勛章、壹級獨立自由勛章、壹級解放勛章。
1957年9月調任高等軍事學院院長兼政治委員。
1959年任中央軍委戰略小組組長。
1962年參與指揮中印邊境自衛反擊戰。
1966年起任中***中央軍委副主席。直至耄耋之年，他壹如既往地關心國防事業和軍隊建設，適時為中央軍委、總部出謀劃策。他提出的許多極富遠見卓識的戰略性建議，在加強國防建設和保衛邊疆的作戰中發揮了重要作用。
1982年後，由於年齡和健康原因辭去黨政軍領導職務。1986年10月7日在北京逝世。