東鄉平八郎於1848年1月27日生於薩摩藩鹿兒島加治屋町。名實良，幼名仲五郎，十五歲時改名平八郎，是其父母的第四子。平八郎的父親東鄉吉左衛門，精通文武，熟悉海外各國風情，熱心於海軍，這對東鄉平八郎以後投身海軍起了重要作用。東鄉平八郎自幼學文習武，八歲起即學文，同時又學習現代流行劍法，1856年薩摩藩設立新水軍後，其父即常告誡他，要“勵精忠誠”，必應從事海軍事業。後來他又專心研究過炮術。東鄉平八郎的少年時代是在“舞槍弄劍”的嚴格訓練中度過的。1866年薩摩藩成立了海軍，東鄉乎八郎實現願望，參加了海軍，開始步入軍界。
國內戰爭期間，東鄉平八郎擁戴天皇，主張統壹，建立天皇制政府。1868年初，他作為海軍士宮乘坐薩摩藩的戰艦春田號，在阿波沖，同幕府方面的開陽號戰艦進行了海上決戰。阿波沖海戰是日本歐式軍艦間交戰的開端，在日本國內戰爭史上有重要的壹頁。東鄉平八郎跟隨春田號遠征北海道，轉戰各地，為明治政府初立戰功。
1871年，東鄉平八郎赴英學習，專修海軍技術兩年。並乘軍艦遊歷過全世界。為深造海軍技術，陶冶軍人“性格”，他在海外的磨練歷經八年之久。
中日甲午戰爭開始後，在日本發動這場非正義之戰中，東鄉平八郎策劃了對“高升”號的襲擊，並作為艦隊司令指揮了黃海戰役，因為侵略有功，晉升海軍中將並出任海軍大學校長。在八國聯軍入侵中國時他也出任過日本艦隊司令，充當侵略指揮官。
日俄戰爭爆發後，東鄉平八郎被任命為日本聯合艦隊司令官。作為日軍主將打響了這場爭奪殖民勢力範圍的不義之戰的第壹槍。
190 4年6月9日夜，東鄉平八郎指揮日本艦隊，象在甲午戰爭個炮擊“高升“號壹樣，以突然襲擊的方式向停泊在中國旅順港口的俄國艦隊開火。俄國的兩艘鐵甲艦、壹艘巡洋艦登時被擊毀。同時，俄國軍艦瓦利雅格號和柯列茨號，在朝鮮仁川也遭攻擊，日俄戰爭就這樣開始了。戰爭爆發後的第二天，又有俄國軍艦數艘被擊毀，使俄國在東亞的海軍實力大大削弱，日本很快地奪得了制海權，從而保證了日本軍隊運輸和行動的自由。在他指揮艦隊順利地完成了突然襲擊任務後，便立即把矛頭指向俄國太平洋艦隊，東鄉認為只有消滅了太平洋艦隊，或者至少把它封鎖在旅順港內，才能保證日本陸軍在朝鮮和遼東半島各處登陸，以至包抄在“南滿”的俄軍主力。
從2月9日的突然襲擊開始，東鄉平八郎對旅順口的俄國艦隊進行丁八次猛烈的攻擊。4月，東鄉平八郎指揮日本艦隊大敗俄國艦隊，連俄國太平洋艦隊司令官馬卡格夫海軍上將本人也葬身於魚腹。這場戰役使日本統帥部取得了海上的絕對優勢。東鄉平八郎的“戰功”，使他在1904年6月6日晉升為海軍大將。1905年1月，東鄉平八郎指揮日本艦隊配合日本陸軍第三軍攻陷了旅順，使那裏的俄國艦隊全軍覆沒。
1905年5月27日，東鄉平八郎又在對馬海峽組織了日本海大海戰，這是日俄戰爭的最後壹次決定性戰役。在這次戰役中，東鄉平八郎僅水雷艦就配備了六十三艘，而羅哲斯特文斯基海軍上將指揮的俄國第二太平洋艦隊，同樣類型的戰船只有九艘。日本海軍在“皇國興廢只此壹戰”的口號下，經過二十四小時激戰，使俄國四十七艘戰艦中的三十艘，或被擊沈，或被俘獲，損失的總噸位達十三萬七千余噸，六千壹百零六名海軍官兵，連同他們的司令官羅哲斯特文斯基壹起被俘虜，戰死者達壹萬多；而日本海軍只損失了三艘水雷艇，戰死者僅壹百壹十五名官兵。
東鄉平八郎指揮的這次日本海大海戰的成功，決定了日俄戰爭中日本的最後勝利。1905年9月，日俄兩國簽訂了樸茨矛斯條約。根據這壹條約：歸根到底中國是日俄戰爭中的唯壹的宣接受害者，而日本則成為中國東北和朝鮮的主宰。
日本軍國主義者狂呼日本在對馬海峽之戰中的勝利，吹捧東鄉平八郎為“無敵大將軍”，“軍神”。明治天皇為褒獎他的“戰功”，向他下賜敕語達10次之多。1905年12月，東鄉平八郎被任命為海軍軍令部部長兼海軍將官會議議員，成為日本海軍第四任首腦。到大正時期，1913年，他被賜予帝國元帥稱號，後又晉升侯爵。
進入昭和年代，東鄉平八郎已到垂幕。1934年5月30日病死東京，終年八十七歲。