但在時代大局面前，單靠他的努力是救不了大清的，所以他所有的努力只能白費。李鴻章的才華得到了當時其他國家重要領導人的認可。在簽署《馬關條約》後，他留下了壹條信息。當時日本著名政治家伊藤博文直接承認自己不如李鴻章。
強力政治改革，中日摩擦不斷
當西方列強進入工業化時代，依靠先進武器攻擊中國獲利時，與中國僅壹水之隔的日本也受到了影響。但與清朝統治者不同的是，日本政府積極進行改革，發起了明治維新運動。明治維新後，日本比以前強大了，但同時野心也逐漸膨脹，走上了軍國主義擴張的道路，而他的首要目標就是針對中國。
其實19的70年代以後，中日之間就壹直摩擦不斷。當時中日兩國的有識之士都主張學習西方先進的科學技術來增強自己的實力。在這種背景下，日本進行了明治維新，中國在洋務派的領導下，建立了很多現代軍事工業，也積極增強海上軍事實力，籌備成立北洋艦隊。不想落後，日本也在建設自己的軍隊，不斷與中國產生各種摩擦。
甲午戰爭後，李鴻章受盡屈辱。
1894年，朝鮮爆發東學黨起義，朝鮮無力鎮壓。因此，他們請求清政府出兵相助。日本聞訊後選擇先發制人，最終爆發了甲午戰爭。作為甲午戰爭的壹部分，黃海戰爭失敗。在這場硬仗中，洋務派苦心經營的北洋艦隊全軍覆沒。清朝戰敗後，日本強迫清政府簽訂《馬關條約》，將臺灣省和遼東半島割讓給日本。
甲午戰爭的失敗，與李鴻章的軍事保守行為有很大關系，也正是因為這個政策，清軍才被打敗，日軍才得以長驅直入。但李鴻章在簽訂條約的過程中與日本發生了爭論，他與日本政治家伊藤博文的對話也極大地影響了中日兩國的歷史走向。
光緒二十壹年二月十八日，李鴻章被皇帝任命為和談大臣。天皇甚至授予他全權支付被割讓土地的賠償金，但他壹直在與日本斡旋，希望減少賠償金。
第三次談判後，李鴻章不幸遇刺身亡，當即血流如註。雖然身體上吃了不少苦，但憑借這壹槍，日本政府還是答應了李鴻章的請求，為清政府省下了1.2億銀的賠款。但在和談過程中，由於清政府本身就是戰敗國，實力弱小，為了盡量減少賠款，李鴻章在談判中忍辱負重。
壹席話讓伊藤博文汗顏。
李鴻章在談判中盡力為清政府減少損失，但日方仍堅持賠款3億兩白銀不肯松口，還要求中國割讓臺灣省、遼東半島等地區。即使在他被槍殺後，日本人仍堅持要得到臺灣省島，盡管他們表示願意減少賠款。
李鴻章雖然受了傷，但還是趕到了談判現場。當他聽到日本人的要求時，他當場發誓:如果妳堅持要得到臺灣省島，那麽日本和中國將成為世仇，兩國關系將破裂。每當中國竭力反擊，洗刷今日恥辱的時候。在當時的現場，雖然還在養傷的李鴻章無法產生多大的威懾力，但他說的話後來還是實現了。
在與日本人談判期間，李鴻章與日本政治家伊藤博文有過壹次談話。談話中提到，1884年，日本想以對朝鮮動武作為威脅與清政府談判，但這壹要求被李鴻章直接拒絕。伊藤博文當時就建議，中國應該馬上改革，否則就會被日本趕超。1894年甲午戰爭的失敗，說明伊藤博文的這句話已經實現了。
李鴻章思考了這件事之後只是嘆了口氣。他直言自己對改革中國無能為力。他告訴伊藤博文，他壹直想改革。然而，中國太大了，中國公民麻木不仁，官員頹廢，不像日本人，中國的情況是如此復雜，很難進行改革。他問伊藤博文，如果他移居國外，妳會怎麽樣？
伊藤博文想了想，嘆了口氣。如果他在外地，李鴻章會比他更成功，但不能保證李鴻章會做得好。他們兩人的這段對話也讓伊藤博文非常羞愧。