夫差繼位吳王以後，任用伯嚭做太宰，操練士兵。二年後攻打越國，在夫湫打敗越國的軍隊，越王勾路就帶關殘兵敗將棲息在會稽山上，派大夫文種用重禮贈送太宰嚭請求媾和，把國家政權托付給吳國，甘心做吳國的奴仆。吳王將要答應越國的請求，伍子胥規勸說：“越王勾踐為人能含辛茹苦，如今，大王要不壹舉殲滅他，今後壹定會後悔。”吳王不聽伍子胥的規勸，而采納了太宰嚭的計策，和越國議和。
和越國議和以後五年，吳王聽說齊景公死了，大臣們爭權奪利，新立的國君軟弱，就出動軍隊向北攻打齊國。伍子胥規勸說：“勾踐壹餐沒有兩味葷菜，哀悼死去的、慰問有病的，將打算有所作為。這個人不死，壹定是吳國的禍患。現在吳國有越國在身邊，就像得了心腹疾病。大王不先鏟除越國卻壹心致力攻打齊國，不是很荒謬的嗎？”吳王不聽伍子胥的規勸，攻打齊國。在艾陵把齊國軍隊打得大敗，於是懾服了鄒國和魯國的國君而回國。從此，就越來越少地聽從伍子胥的計謀了。
此後四年，吳王將要北上攻打齊國，越王勾踐采用子貢的計謀，就帶領著他的人馬幫助吳國作戰，把貴重的寶物敬獻給太宰嚭。太宰嚭多次接受了越國的賄賂。就特殊地喜歡並信任越國，沒日沒夜地在吳王面前替越國說好話。吳王總是相信和采納太宰嚭的計謀。伍子胥規勸吳王說：“越國，是心腹大患，現在相信那虛飾浮誇狡詐欺騙之詞，貪圖齊國。攻克齊國，好比占領了壹塊石田，絲毫沒有用處。況且《盤庚之誥》上說：‘有破壞禮法，不恭王命的就要徹底割除滅絕他們，使他們不能夠傳宗接代，不要讓他們在這個城邑裏把好人影響壞了。’這就是商朝興盛的原因。希望大王放棄齊國，先攻打越國；如不這樣，今後悔恨也來不及了。”吳王不聽伍子胥的勸告，卻派他出使齊國。子胥臨行，對他兒子說：“我屢次規勸大王，大王不聽。我現在看到吳國的末日了，妳和吳國壹毀滅，沒有好處。”就把他的兒子托付給齊國的鮑牧，而返回吳國向吳王報告。
吳國太宰嚭和伍子胥在感情上產生裂痕以後，就趁機在吳王面前說他的壞說：“子胥為人強硬兇惡，沒有情義，猜忌狠毒，他的怨恨恐怕要釀成深重的災難。前次大王要攻打齊國，子胥認為不可以，大王終於發兵並且取得了重大的勝利，子胥因自己計謀沒被采用感到羞恥，反而產生了怨恨情緒。如今大王又要再次攻打齊國，伍子胥又獨斷固執，強行諫阻，敗壞、詆毀大王的事業，只希望吳國戰敗來證明自己的計謀高明。現在大王親自出征，出動全國的武裝力量攻打齊國，而伍子胥的勸諫不被采納，因此就中止上朝，假裝有病不隨大王出征。大王不可不戒備，這是很容易引起禍端的。況且我派人暗中探查，他出使齊國，就把他的兒子托付給齊國的鮑氏。做人臣子，在國內不得意，就在外依靠諸侯，自己認為是先王的謀臣，現在不被信用，時常郁郁不樂，產生怨恨情緒。希望大王對這件事早日想辦法。”吳王說：“沒有妳這番話，我也懷疑他了。”就派使臣把屬鏤寶劍賜給伍子胥，說：“妳用這把寶劍自殺。”伍子胥仰望天空嘆息說：“唉！讒言小人伯嚭要作亂，大王反來殺我。我使妳父親稱霸。妳還沒確定為王位繼承人時，公子們爭著立為太子，我在先王面前冒死相爭，幾乎不能得到太子的位職。妳立為太子後，還答應把吳國分壹部分給我，我卻不存在妳報答的希望，可現在妳竟聽信諂媚小人的壞話來殺害長輩。”於是告訴他親近的門客說：“妳們壹定要在我的墳墓上種植梓樹，讓它長大能夠做棺材。挖出我的眼珠懸掛在吳國都城的東門樓上，來觀看越寇怎樣進入都城，滅掉吳國。”於是自刎而死，吳王聽到這番話，大發雷霆，就把伍子胥的屍體裝進皮革袋子裏，漂浮在江中。吳國人同情他，在江邊給他修建了祠堂，因此，把這個地方命名叫胥山。