明治六年(1873)10月西鄉隆盛因侵略朝鮮的計劃被木戶孝允、大久保利通等內治派否決，辭去參議兼近衛都督的職務，回到故鄉鹿兒島縣。接著，桐野利秋、筱原國幹、村田新八等心腹以及近衛軍人、警保安寮官也先後回縣。
隆盛回鄉以後，在桐野、筱原、村田等人的協助下，於明治七年(1874)在城山腳下設立私學校(包括賞典學校和開墾社)。私學校分為筱原領導的步兵學校和炮兵學校，前者約五六百名，後者約200名，除專門軍事技術外還學習漢籍，宣傳忠君愛民思想。私學校縣城裏除本校外還設立12所分校，全縣124鄉各設壹所分校。
後來私學校逐漸擴大勢力，至1875年底，從區長、副區長到各鄉村的村長、副村長，連警官也登用私學校出身的人了，私學校成了壹個黨，控制整個鹿兒島縣。隆盛當初設立學校的目的在於“為憂慮貽誤歸縣壯士的方向，施以適當的教育，磨練節義，以期他日之大成”，絲毫沒有叛變之意。
當時新政府所實行的四民平等、廢除俸祿等政策，嚴重地損害了士族的利益，鹿兒島士族懷恨新政府。被看成士族領袖的西鄉隆盛因“征韓論”失敗回鄉，使士族對中央政府更加憤怒。同時由於私學黨控制縣各級領導，抗拒執行中央的各項政策，甚至連稅收也不上繳中央，廢刀令也不執行，土族仍然帶刀聚眾喝酒，更甚的還計劃將大久保暗殺團派到東京，鹿兒島簡直成了壹個獨立王國——“鹿兒島縣人頑固，拒絕他縣人就任縣官，而且縣治也仍舊是舊藩時代的，絲毫沒有改正。再者文部省的學制也沒有實行，尤其武器不上交陸軍省，由士族私藏。“只知有鹿兒島，不知有日本帝國；只知有薩士，不知有海陸官軍；為暴動而秘密整頓軍備，正在等候可以利用士族不平的機會。”
大久保內務卿要求更叠縣內的人事，大山綱良縣令堅決不聽，而且還威脅，如果更新人事，全體縣官總辭職。鹿兒島與中央政府發生沖突不可避免了。
中央政府為防止鹿兒島發生暴動，派船將薩摩藩兵工廠遷到大阪。1877年1月29日夜，私學黨的過激派在汾陽尚次郎家裏集會，談到三萎輪船“赤龍丸”到鹿兒島，要將草牟田火藥庫的彈藥運到大阪，但為什麽白天不運夜裏偷運呢？大家感到非常激憤。有人說“如果將藩制時代就有的彈藥運到大阪，發生萬壹的時候拿什麽來對付呢?要先下手，歸我們所有”。於是20多名私學校黨徒夜裏12點鐘襲擊了草牟田的陸軍火藥庫，搶走子彈六萬發。後來有人提議，少拿多拿都是壹樣，再幹吧。30日1000多人又襲擊了陸軍火藥庫。31日襲擊了鹿兒島造船所，搶定許多武器彈藥。
正好此時，政府派來由警視廳警官組成的視察團，借視察為名企圖暗殺西鄉隆盛，這就給私學校黨提供了壹個舉兵的絕好借口。
2月3日西鄉隆盛從大隅半島高山打獵回來，同壹天暗殺團的中原尚雄被私學校黨逮捕。2月5日，在私學校禮堂開大會，筱原國幹、桐野秋利；村田新八、別府晉介等頭頭及18個區的區長、137個私學校分校長***200多人出席，壹致推舉西鄉隆盛為領袖，起兵反對政府。而隆盛在士族兄弟的懇請下也下決心鋌而走險。當
時隆盛的心境是，事到如今，反要殺，不反也要殺。
2月6日開始招兵，將私學校改為薩軍本營，分校改為分營，當天就招募3000人。
2月15日至17日，全軍13000人分七隊舉兵，目標熊本城。第壹大隊長為筱原國幹，第二大隊長為村田新八，第三大隊長為水山彌壹郎，第四大隊長為桐野利秋，第五大隊長為池上四郎，第六、七大隊長為別府晉介。
薩摩藩舉兵的時候，正逢南國50年來罕見的壹場大雪，積雪足有尺把厚。2月15日上午9點，西鄉隆盛騎馬進行閱兵式。閱兵式結束後，西鄉隆盛以“新政大總督征伐大元帥西鄉言之助”的名義，高舉“新政厚德”的旗幟發兵，西南戰爭就此開始。
與西鄉隆盛舉兵的同時，中央政府任命熾仁親王為征討總督，山縣有朋、川村純義、黑田清隆為參軍，率領六萬陸海軍前來討伐。經過半年激戰，薩軍非但沒有攻下熊本城，反而在田原阪壹戰大敗。同時中央軍已從海路占領鹿兒島，隆盛便決心打回老家，死也要死在家鄉。8月18日薩軍沖出富崎縣長井村的可愛嶽，9月1日到達被中央軍包圍的鹿兒島，100裏路程竟花了14天。薩軍首先奪回私學校，但中央軍從9月6日起開始以5萬至7萬的兵力將薩軍的最後據點——城山層層包圍。此時薩軍總計只有372名，而且有槍的人只有150名，彈藥也非常缺乏。然而他們決心奮戰到底，分兵11路把守城山。9月4日薩軍圍攻打米倉庫又損失百余
人，現在只剩下200多人了。中央軍估計，薩軍彈藥糧食缺乏，至多維持50天。
從9月12日開始，山縣有朋下令日夜炮擊城山，隆盛等人只有挖洞藏身，躲避炮擊09月23日，中央軍宣告明日——24日下午4點開始總攻擊，勸薩軍投降。西鄉堅決拒絕投降。
9月23日是陰歷8月17日，那天夜裏明月當空，隆盛召開全體幹部會議，開宴訣別。大家飲酒吟詩，唱琵琶歌，以盡今生的歡樂。轎夫益森三四郎還表演了舞蹈，真是“滿座洋洋生春，勇將猛士痛飲淋漓，各盡其歡。嗚呼！孤城陷於重圍，命在旦夕，而諸將士從容自若，復不知有死生之事。”
9月24日下午4點，中央軍按預定計劃執行，發炮三響，開始了總攻擊。薩軍嚴守陣地，浴血奮戰。由於眾寡不敵，守軍幾乎全部戰死，最後各堡壘全部陷落，只剩下巖崎谷東口的堡壘。中央軍集中在巖崎谷兩邊的高地上，拼命向那個堡壘射擊。
此時西鄉和桐野利秋，村田新八、池上四郎、別府晉介、邊見十郎太、桂久武等40多名將領壹起在洞前整隊，面向巖崎谷口，哇的大吼壹聲，壹齊沖過去。但是谷口被圍困得水泄不通，2400名狙擊手的槍彈像下雨壹般飛來。小倉壯九郎(東鄉平八郎的胞弟)見大勢已去，憤然站著切腹自殺。桐野說“為什麽這樣性急”，但已無法勸阻。接著掛久武中彈身亡，薩軍將領相繼陣亡，別府晉介、邊見十郎太在隆盛左右保護。邊見鑒於情況緊急，對隆盛說“馬上離開這裏”，隆盛說“還不要緊，還不要緊”，正說之間隆盛腹部和腿部中了彈，不能前進了。隆盛便對別府晉介說：“晉介，晉介，立刻在這裏殺了吧。”此時隆盛已經不能再站起來了，跪著嚴肅地合掌向東方迢拜，晉介悲痛地說了壹聲“恕我罪過吧”，揮刀將其頭砍下。隆盛的從仆吉右左門將其頭埋在島津應吉的家門前，以防被敵人取去。
別府晉介面對巖崎口的堡壘，大喊道“先生已死，要和先生壹起死的人大家都來死吧”，奮力作戰，最後中彈死亡。其他將領都向堡壘沖去。和中央軍決戰，直到統統戰死。
當時鹿兒島縣令是土佐的巖村通俊，他得到山縣有朋、川村純義兩參軍的許可，領回西鄉隆盛等的遺體，親自將他們葬在凈光明寺山上的墓地。
明治二十二(1889)大日本憲法頒布時，西鄉隆盛被大赦，撒消叛亂的罪名，恢復了名譽，並迫贈為正三位。明治三十二年(1898)又在東京上野公園為他建立壹座銅像，供世人瞻仰。1977年西南戰爭百周年紀念時，在鹿兒島建立了“西鄉南洲顯彰館”。於是人們對他的評價從“賊”轉變為“偉人”，把他發動西南戰爭說成是不得已的。
西鄉隆盛和大久保利通、木戶孝允被稱為明治維新三傑，他在推翻幕府創建新政府方面的確是開國元勛，立了大功。同時他在領導留守政府時所推行的壹系列改革也有成績，我們不應抹煞。然而他代表反動土族的利益而發動的西南戰爭是違背歷史潮流的。