“九·壹八事變”後，日本帝國主義加緊向華北侵略。 宋哲元部二十九軍負責喜峰口帶的防務。1933年3月8日，何基灃率所部趕到喜峰口面對強敵壓境，何基灃為激勵官兵士氣與入侵日軍展開浴血奮戰。11日晨，何基灃與援軍針對日軍怕近戰，夜戰的弱點。制定了出其不意的迂回戰術。當日深夜中國官兵手持大刀，趁日軍熟睡之機，突入其營地猛砍猛殺，並將日軍的火炮和輜重，糧秣燒盡。這是自“九·壹八事變”以來中國軍隊抗擊日軍的首次勝利，極大地鼓舞了中國軍民的抗戰信心。不久，何基灃因功晉升為壹壹O旅旅長。 1936年6月6日，在冀察政務委員會舉行的招待日軍駐北平部隊連長以上軍官的宴會上，狂妄的日本軍官始而舞蹈、唱歌，繼而舞刀，炫耀“武士道”精神。應邀出席的二十九軍在北平的團以上軍官個個義憤填膺，爭相出場與日軍壹決高下。何基灃也按捺不住滿腔激憤，縱身跳上壹張桌子唱了壹支《黃族歌》，二十九軍軍官們鬥誌昂揚，有力地震懾了日本侵略者。
1937年7月7日晚10時，駐豐臺的日軍借口在盧溝橋附近演習時壹名士兵失蹤，蠻橫地要求進入宛平縣搜查，遭到中國駐軍的嚴正拒絕，日軍向宛平的中國駐軍發起攻擊。第二壹九團吉星文部奮起還擊，經過數次拉鋸戰，終於打退了敵人。日軍包圍宛平城，何基灃於8日黎明即親臨前沿陣地指揮，並向所部官兵發出了與盧溝橋***存亡的命令。戰鬥開始不久，平漢線鐵路橋及其附近龍王廟曾被敵人攻占。8日下午何基灃親率突擊隊從長辛店以北及八寶山以南壹齊向敵人發起反攻，並與敵人展開白刃戰，終於打退了敵人，奪回了鐵路橋及龍王廟等地。當日軍詭稱和談以待援軍時，何基灃受命與日軍談判。會上，日方代表櫻井等公然提出要中方撤出宛平縣城、撤換有關軍政指揮官，並向日方賠禮道歉的無理要求。何基灃聽了拍案而起，拔出手槍往桌上壹拍，櫻井等人面面相覷再不敢開口。
1937年7月21日，日軍後續部隊到達，日軍攻占北平。二十九軍余部撤至長辛店壹帶。
1937年8月初，何基灃升任77軍179師師長率部沿津浦線邊打邊撤，阻滯了日軍的推進。11月上旬，何基灃率部退守大名府，與大舉圍攻的日軍展開殊死搏鬥。何基灃親臨前線，將士們視死如歸，與敵人血戰三天兩夜，終因彈盡援絕而失守。何基灃悲憤已極，在被部下強拽上馬撤到南樂縣城後，拔槍自戕，不惜壹死以謝天下。當時何基灃左胸中彈，倒在血泊中，幸得部屬及時搶救方得脫險。 1938年，何基灃離軍養傷期間，認真思考探索救國之路，經中國***產黨地下黨員連玉崗的介紹，對中***及八路軍有較深刻的認識。終於在中國***產黨人身上看到了中華民族的希望。當時經中***地下黨員李薩南介紹，何基灃了解了八路軍和解放區的真實情況，並閱讀了斯諾的《西行漫記》，產生了到“***區”去看看的念頭。何後在武漢經朋友的介紹，他會見了西北軍的故舊，當時已是***產黨員的賴亞力，並通過賴亞力的協助於八路軍辦事處見到了周恩來，然後由周的安排於同年2月秘密到達延安。何基灃到達當晚，毛澤東去探望何基灃，贊揚了他抗日的功績。何基灃向毛澤東詳述了喜峰口、盧溝橋、大名府等各次戰役，還應毛澤東的邀請在抗大作了壹次報告。在延安壹個月零五天的時間裏，毛澤東、劉少奇、朱德多次和何基灃交談，使他深受教益，感到自己終於找到了救國救民的真理。離開延安前夕，他遞交了壹份入黨申請書，其中寫道：“我是國民黨軍隊裏的舊軍人。過去，我總認為只要文官不愛錢，武官不怕死，人人廉潔奉公，的國家就會富強起來。現在懂得，沒有***產黨中國無望。我懇求收下我這個新戰士。”當時，黨中央決定他回到國民黨軍隊去工作。1939年1月，何基灃被批準為中國***產黨的秘密黨員，實現了由壹名愛國軍人到***產主義戰士的轉變。並被黨中央派遺返加國民黨軍隊開展工作。
從1939年算起，何秘密加入中國***產黨到1949年中***建國時黨齡本已達十年。當時周恩來曾對何說過壹句話：“基灃，過去的事，就讓它作為黨的壹個秘密吧。”，所以何直至去世也不敢暴露其臥底身份。 何基灃入黨後為中***派遣打入國民黨方軍隊中從事兵運的臥底，在新四軍向鄂、豫、皖等地的發展和建立大別山根據地過程中起了重要作用。 何基灃在黨的領導下，將這支舊軍隊引導到抗日救國進步的道路上來。1948年淮海戰役時任國民黨軍第三綏靖區副司令官的何基灃，和張克俠壹起率率第59軍全部，第77軍大部***兩萬多人於11月8日清晨在賈汪、臺兒莊地區臨陣投向中***壹方，正式揭開了淮海戰役（徐蚌會戰）的帷幕。
新中國成立後，何基灃為祖國的社會主義建設事業獻出了全部的精力。此後，何基灃先後擔任中國人民解放軍第34軍軍長、南京警備司令部司令員等職。中華人民***和國成立後，歷任水利部副部長、國務院水土保持委員會副主任兼秘書長、農業部副部長等職。曾被選為人大代表，被邀為中國政協委員、常委。
起義後，何基灃任人民解放軍第三野戰軍三十四軍軍長，率部參加渡江戰役，直搗南京，為解放全中國立下新功。1955年，何基灃榮獲壹級解放勛章。
新中國成立後，何基灃卸下戎裝，先後擔任國家水利部副部長、農業部副部長等職，繼續為社會主義建設貢獻力量。有壹次，周恩來總理對他說：“基灃同誌，過去的事，就讓它作為黨的壹個秘密吧。” 從此，何基灃嚴格執行總理指示，保守秘密，從來不炫耀自己，就連他的子女都不太清楚他是1939年入黨的老黨員。
1980年1月20日病逝於北京。何基灃的骨灰則按照遺願，壹半灑在盧溝橋畔，壹半灑在淮海戰場上。 抗戰勝利後，何基灃率部駐徐州。蔣介石接到軍統密報：“何部進攻解放軍不力。”蔣介石不滿，用明升暗降的辦法，免去何基灃七十七軍軍長職務，改任第三綏靖區副司令，實際削去他的兵權。
1948年10月18日，華東野戰軍派楊斯德潛入離徐州50多公裏的前線指揮所，向何基灃傳達了起義的指示：“戰場形勢已經發生了重大變化，進入國***決戰的關鍵時刻。目前時機成熟，黨中央命妳在11月8日我軍發起進攻之際，率第三綏靖區官兵就地舉行起義。”這時離起義只剩20天時間。
何基灃聽了傳達，興奮異常。11月8日，國民黨第三綏靖區七十七軍和五十九軍23000余人在何基灃、張克俠兩位將軍的策動下，於賈旺、臺兒莊防區宣告起義。何、張兩將軍和其他將領率所部退出兩地戰場，並聯名通電全國。
蔣介石接到前方報告，氣得火冒三丈，暴跳如雷。
何基灃、張克俠的起義，撕開了國民黨軍防線的壹道大口子，從根本上打亂了蔣介石的部署，壹時間亂了陣腳。徐州惶恐，南京震驚，美國哀嘆。何、張的成功起義，為我軍勝利進行淮海戰役奠定了基礎，是全國內戰爆發以來規模最大的壹次起義，它開創了大兵團起義之先河。
起義後，何基灃任人民解放軍第三野戰軍三十四軍軍長，率部參加了渡江戰役，直搗南京，為解放全中國立下了新功。1955年，何基灃將軍榮獲“壹級解放勛章”。 當時何基灃、張克俠所屬部隊屬於國民黨馮治安部，馮治安出身西北軍，蔣介石對他並不信任，其所屬部隊是雜牌軍，戰鬥力較弱。何基灃、張克俠率第三綏靖區59軍及77軍壹部，***三個半師，約2.3萬余人起義，基本占了馮軍壹半的兵力，而當時作戰第壹階段，華野為了實現消滅黃兵團，投入十五個縱隊，其七個縱隊用於分割包圍黃百韜，八個縱隊用於阻援和對付馮治安部。馮軍兵力少，戰鬥力薄弱，防線綿長，即便是沒有何張起義，馮治安手下兵力也很難擋住華野的攻擊，保證黃兵團安全撤往徐州。
當何張起義，劉峙沒有派部隊去添補馮部的口子，接應黃兵團西撤，反而將徐東的部隊撤到徐州龜縮壹團，可見此時的國民黨軍關心的是自保，如果沒有何張起義，形勢會更好壹些，那麽劉峙很可能會更加放心的將徐東部隊撤到徐州，接應黃兵團更是無從談起。
從當時的戰場形勢來看，國民黨完全處於防禦狀態，不敢主動求戰。戰前，白崇禧曾經答應統壹指揮徐蚌作戰，後與幕僚商議，認為形勢堪憂，取勝無望，於是白向蔣攤牌，要求撤出徐州的部隊，否則不去指揮，但蔣介石不同意，於是白崇禧便堅決不去徐州。可見，從當時的戰局來看，國民黨軍徐州作戰的敗局早在預料之中，沒有多大把握，而蔣介石卻非要寶押在徐州，要拼死壹搏，結果搞的壹敗塗地。