1928年5月3日清晨，泉城濟南城內各處商店相繼開門，生意興隆，市面熙熙攘攘，壹片太平景象。但不料在上午9時許，北伐軍壹名徒手士兵經過日軍警戒區時，被無故射殺；北伐軍壹部移往基督醫院時，日軍又突然開槍，與此同時又向國民北伐軍第四十軍第三師第七團的兩個營發起攻擊，北伐軍損失慘重。九十二師、九十三師奮起還擊，立即制止住日寇的囂張氣焰。日軍指揮官福田彥助見事不好，急派佐佐木到壹去會見蔣介石，並威脅說“如不停火，中日將全面開戰”。蔣介石便派出10個參謀組成的傳令班，分頭到各部隊傳令，對日軍停止還擊。
不久，蔣介石派外交部長黃郛到侵華日軍司令部交涉。黃郛到了設在正金銀行的日軍司令部，福田彥助避而不見，只派其參謀長黑田出面接見。黑田蠻橫地提出，北伐軍必須立即停火，壹律退出日軍警戒區。黃郛回來後便向蔣介石匯報，蔣介石為顧全大局，嚴令北伐軍不許還擊。但是日本侵略者卻得寸進尺，壹面以武力將商埠區的北伐軍全部繳械，壹面派部隊占領設在濟南路局的外交部長辦公處。堂堂外交部長，號稱“隱身仙人”的黃郛及其衛士亦被繳械，乖乖退出其辦公處，遷往北伐軍總部辦公。
正當中國派人與日本人交涉時，恰有兩個日本兵被流彈打死。日本侵略軍這下找到了挑釁借口，大舉向中國軍隊駐地進攻。日本侵略軍更兇焰萬丈，不論官兵，見人就殺，壹時屍體遍街，血流成河，哀聲動地，中國軍隊7000余人被迫繳械。
此時，蔣介石仍下令不準抵抗，只命戰地政務委員會外交處主任蔡公時速去交涉，要求日軍迅速撤退。蔡公時正要與日本方面交涉，但見交涉署已被日軍包圍。蔡公時只得拿起電話，要通日本駐濟南領事西田畊壹，詢問因何發生沖突。西田畊壹狡黠地回答：“不知何故互起誤會，雙方現應立即停戰。”蔡公時再派人出去，但全被日本兵開槍打回。全署人員被圍困壹天，又餓又乏。到晚上11時左右，傳令兵跑來報告：“外面日本兵撞門，勢極兇猛，怎麽辦？”蔡公時略壹沈吟，隨即毅然決定：“開門，請他們進來！”還沒等傳令兵轉身，交涉署大門已被日軍槍托撞開，20多個日本兵撞了進來，不容分說，剪斷電燈、電話線，交涉署頓時陷入黑暗之中。
在日本兵的手電筒照射下，日本兵直入寢室，搜查槍械。壹個穿西服的日本人首先說：“我們是為搜查械彈而來。白天被打死的兩個日本皇軍，必是妳們署裏的人幹的，妳們的主管是哪位？”蔡公時挺身而出，婉言解釋說：“上午被打死的兩個日本兵，確系為流彈所擊，彼此不要誤會。我們是外交人員，從來不帶槍支，請不必搜查，免滋紛擾！”那日本軍官，壹聲令下，除蔡公時外，其他工作人員全部被綁了起來。日本兵翻箱倒櫃，搶了五大包文件，揚長而去。
不壹會兒，又來壹個日本軍官厲聲高叫：“我們已經查明，大日本皇軍確系署中人員所槍殺，非交出槍彈不能了結！”蔡公時據理辯爭，請釋放被綁人員。日本軍官惱羞成怒，命令日本兵也將蔡公時綁縛起來。蔡公時忍無可忍，便操日語叱責道：“汝等不明外交禮儀，壹味無理蠻幹！此次貴國出兵濟南，說是保護僑民，為何借隙尋釁，肆行狂妄，做出種種無理之舉動！實非文明國所宜出此。至於已死之日本兵，若果系敝署所為，亦應由貴國領事提出質問，則中國自有相當之答復，何用妳們如此喋喋不休耶？若妳們果系奉日本領事之命令而來，則單人即到領事館交涉，亦無不可！”壹個會說中國話的日本軍官冷笑道：“妳們的蔣總司令都不敢罵大日本皇軍半句，他想找我們談判，我們都沒有興趣。妳的官兒有多大，再大也大不過蔣先生！”那日本軍官還不解氣，壹巴掌摜在蔡公時的臉上，頓時打得鼻青臉腫，鮮血直流，還咬牙切齒罵道：“妳不要命啦，竟敢辱罵皇軍，把妳送到蔣總司令手裏，他也得殺了妳，再向大日本皇軍道歉！”蔡公時壹腔愛國熱血似烈火般熊熊燃燒，義憤填膺，痛斥他們說：“妳們這些強盜！我早就看透妳們。現在我以壹個中國人的身份痛斥妳們這幫強盜。”日本軍官獸性大發，便命日本兵將中國人綁在柱子肆意毒打。更命日本兵揮動刺刀割耳、切鼻。頓時鮮血噴流，血肉模糊，慘不忍睹。日本強盜大聲狂笑，形同禽獸！那日本軍官原以為會把蔡公時嚇得屁滾尿流，低聲下氣求饒性命，卻見蔡公時虎目圓睜，大聲怒罵：“日本強盜禽獸不如，此種國恥，何時能雪！野獸們，中國人可殺不可辱！”
交涉署庶務張麟書、參議張鴻漸、書記王炳潭等在蔡公時激勵下，爭相痛罵，怒斥強盜。但這幫喪心病狂的法西斯強盜先將張麟書耳鼻割下，又斷其腿臂，血肉狼藉，不成人形！日本侵略者仍不放手，又將蔡公時等人的綁繩砍斷，三人壹組，拽出屋外。蔡公時被第壹批拖到交涉署院內，槍聲壹響，可憐蔡公時正值英年，未見國家統壹，竟犧牲在倭寇的亂槍之下。勤務兵張漢儒乘槍聲壹響，應聲倒地，後找機會死裏逃生。他作為現場見證人，寫下了《蔡公時殉難始末記》，揭露了日寇犯下的滔天罪行！ 1928年5月4日，蔣介石命外交部長黃郛致電日本首相兼外務大臣田中義壹，指出“似此暴行，不特蹂躪中國主權殆盡，且為人道所不容。今特再向貴政府提出嚴重抗議，請立即電令在濟日兵，先行停止槍炮射擊之暴行，立即撤退蹂躪公法、破壞條約之駐兵，壹切問題當由正當手續解決。”日本政府根本不把這個抗議照會放在眼裏，不予置理，反而擴大濟南事態，更瘋狂地向中國公民開炮射擊。蔣介石壹味忍耐，連連派出羅家倫、趙世暄、崔士傑、王正廷與日本談判，都被日本轟了回來。於是，蔣介石又急電在東京的張群直接找日本當局談判。日本方面的意圖是很明顯的，他們想先把蔣介石勢力控制在濟南，逼他簽訂城下之盟，阻止北伐軍北上，從而日軍控制華北大片領土。為此目的，日寇不但沒有把事態平息下來，相反還加緊進攻，企圖消滅蔣介石的部分力量。
蔣介石見濟南的事態不但平息不下來，相反有越來越緊急的勢態，於是他整頓了北伐軍，拉著黃郛等人在混亂中溜出了濟南。蔣介石、黃郛等從濟南逃出後，來到黨家莊住下。梳洗己畢，急忙修書壹封，送給日軍：“福田師團長惠鑒：自本月3日之不幸事件發生，本總司令以和平為重，嚴令所屬撤離貴軍所占區域。現在我各軍已壹律離濟，繼續北伐，僅於城內留相當部隊，借維秩序。本總司令亦於本日出發，用特通知貴師團長查照，並盼嚴令貴軍立即停止2日以來壹切特殊行動，俾得維持兩國固有之睦誼，不勝企盼之至。專布順頌公綏國民革命軍總司令蔣中正事前。”
福田已通過安插在蔣介石身邊的顧問佐佐木，得到蔣介石的傳話：“革命軍為避免糜亂地方，決不與日軍沖突。”現接到這封來信，才知道蔣介石改道北上，繼續北伐，並得悉已離開濟南，急得頓著腳咆哮道：“糟了，北伐軍繼續北上，以後的事更難辦了！”福田彥助惱羞成怒，便於5月7日下午向蔣介石提出最後通牒：“蔣總司令閣下：貴總司令屢違對於中外之聲明。此次由貴部下之正規軍實現此不忍卒睹之不祥事件，本司令官不勝遺憾。平加諸帝國軍部及居留民之壹切損害，以及有關毀壞國家名譽之賠償等，雖有待於帝國政府他日之交涉，本司令官不欲置喙，然敢對貴總司令要求左列事項：壹、有關騷擾及暴行之高級武官，須嚴厲處罰。二、對抗我軍之軍隊，須在日軍陣前解除武裝。三、在南軍統轄區域之下，嚴禁壹切反日宣傳。四、南軍須撤退濟南及膠濟路沿線兩側20華裏之地帶，以資隔離。五、為監視右列事項之實施，須於12小時以內開放辛莊及張莊之營房。盼右列事項，於12小時以內答復。臨時山東派遣第六師團長福田彥助。”
北伐軍將領見到這個最後通牒，簡直把北伐軍當作戰敗國看待，把抗日將士作為投降的戰俘，大都氣炸心肺；但蔣介石不願以“小不忍而亂大謀”，因此除第二條外，準備全部接受。當下擬定六項答復，並派熊式輝、羅家倫前去交涉。
福田彥助看了蔣介石的六項答復，並不滿意，他橫眉怒目回答：“規定時間已過，不必再談！”福田彥助蠻橫地趕走派去的使者，隨即下令對濟南發動攻擊。
濟南軍民在濟南衛戍副司令蘇宗轍的指揮下，與日寇奮戰，特別是鄧殷藩團第九連連長郭德芳與部屬發誓說：“我們生為軍人，死當衛國。今天的事，日本人逼得我們實在忍不下去了！為國家，為人民，正是我們犧牲報國的時候了！我們不忍心，也不願意親眼看到祖國河山破碎，而束手被擒！我們要本著‘有敵無我、有我無敵’的精神和決心，與敵人拚壹個妳死我活！”北伐軍將士以散兵戰術抗擊日寇的立體戰術，打得敵人聞風喪膽。留守濟南的李延年、鄧殷藩兩團將士，與日寇激戰三晝夜，打得日寇不敢輕舉妄動，直至接到蔣介石令他們撤退的密電後，才撤出濟南。 北伐軍撤出濟南後，日軍於5月11日上午舉行“顯揚國威”的入城式，開始慘絕人寰的大屠殺：見人就開槍射擊，見女人就割去雙乳，亂刀刺死。濟南死傷軍民1.1萬有余，真是血流成河，屍橫遍地，慘不忍睹，舉世公憤！