呂秀文畢業於日本東斌陸軍學堂[3]。呂秀文歸國後，辛亥年臘月初（1911年）尚誌社在曹州普通中學堂成立，他參加了該社。此後，他被該社派往安徽渦陽、蒙城地區搞軍事，負責協助王錦韜集合舊部並收編武裝，以便為此後的曹州起義提供外援。
1924年10月，乘曹州鎮守使徐鴻濱潛逃的良機，曹州鎮守使參謀長呂秀文為取得曹州鎮守使壹職而赴巨野搶占地盤。山東省督辦鄭士琦卻派第二十混成旅旅長吳長植（屬於皖系）接任曹州鎮守使。呂秀文乃宣告獨立，準備對抗鄭士琦部。1925年4月，段祺瑞政府任命呂秀文為第三混成旅旅長。1925年4月，奉系張宗昌任山東省督辦。同年4月，張宗昌派手下師長褚玉璞率兵力自濟寧開赴曹州，準備攻取曹州。當時駐巨野的呂秀文手下營長王金韜放棄了巨野縣城以及夏官屯的防線，退守龍固集，並派紳士孔憲泰赴曹州勸呂秀文取消獨立，服從省裏的命令。同年5月11日，國民軍呂秀文部在曹州被張宗昌部畢庶澄繳械。
1929年2月至5月，他任山東省政府工商廳長,並任山東省政府委員。同年3月30日，接收濟南委員會委員長崔士傑以及郭同、李慶施、呂秀文（接收膠濟委員）***4人先後抵達濟南，受到日方專車迎接。同年4月25日，孫良誠因對膠濟接防辦法不滿而向蔣介石及譚延闿稱病請辭，呂秀文代理山東省政府主席。
中原大戰結束後，他任陸軍第二十九軍副軍長（軍長宋哲元）。抗日戰爭爆發後，他隨軍南下。後來，他任國民政府軍事委員會中將高參、三十三集團軍顧問。
1946年7月，呂秀文退役。