楊靖宇指揮所部與日偽軍作戰數百次，沈重打擊了日偽軍，擴大了遊擊根據地。毛澤東曾撰文稱贊：“有名的義勇軍領袖楊靖宇……堅決抗日艱苦奮鬥的戰績，是人所***知的。”中***六屆六中全會高度評價他和東北抗日聯軍，致電贊譽他們為“冰天雪地裏與敵周旋7年多的不怕困苦艱難奮鬥之模範”。1937年12月，經中***中央政治局通過，楊靖宇被確定為中***第七次全國代表大會準備委員會委員。
楊靖宇的軍事指揮才能令狠如豺狼的敵人膽寒且無奈，因而壹直妄想誘使他投降“歸順”。偽滿1940年4月出版的日文《協和》雜誌263期登載的《楊靖宇討伐座談會》壹文有這樣的記錄：楊靖宇“不但有武功，而且有文才”，“才幹不壹般，不是壹個尋常人物可比的人”。偽通化省的警務廳長岸谷隆壹郎，向在場記者解釋為什麽非要勸楊靖宇“歸順”時說，“我們為了讓楊（靖宇）活下去，使他的才能向好的作用方向轉化，才考慮勸他歸順。”
1939年秋季以後，為了消滅東北抗日聯軍，敵人發動偽通化、間島、奉天“三省聯合大討伐”，對抗聯部隊發起長時間的大舉進攻。敵人為能早日抓到楊靖宇這個“大頭目”，調集重兵對楊靖宇部實行野蠻、殘酷的“包圍追擊”，“梳篦式”、“踩踏式”的“討伐”。
對敵鬥爭進入到異常艱苦的階段。僅從1940年初到2月中旬的50多天裏，楊靖宇就率部與敵作戰40多次，有時壹天打幾仗。楊靖宇充分發揮他的指揮才能，壹次又壹次突破敵人的圍攻，但由於敵人力量過於強大，我方無糧食彈藥補充，只能以草根樹皮充饑，甚至吞咽身上的棉絮，饑困交加，難再力戰。楊靖宇不得不決定各部隊化整為零，分散突圍，以保存實力，待機重新集結。
對於抗聯部隊與日寇鬥爭的艱苦程度，彭真同誌曾予這樣總結：“我們***產黨20多年領導的革命鬥爭中，有三件最艱苦的事。第壹件：紅軍二萬五千裏長征；第二件：紅軍長征後，南方紅軍的三年遊擊戰爭；第三件：東北抗日聯軍的十四年苦鬥。”
現在的人想像不出那時的艱苦卓絕具體是個什麽樣子。曾當過楊靖宇身邊警衛戰士的黃生發老人回憶道：
“天氣嘎嘎冷，我們的棉衣又不齊，有的同誌手腳凍傷了。可是敵人的部隊越集越密，‘討伐’越來越頻繁。就在楊司令他們為解決棉衣問題召集各方面軍負責人開會研究時，因叛徒出賣，在那爾轟的東北岔壹帶被岸谷隆壹郎帶領的日偽軍層層包圍，敵兵力達4萬多人。天上有飛機，地上有機槍大炮，汽車來回運送糧食、彈藥。在我們的正面，敵人滿山滿谷。為了掩護各部隊分頭轉移，楊司令帶領我們300多人在正面吸引住敵人，由機槍連開路，生生撕開壹條口子。
“但是，當我們經南泊子突圍到了五金頂子時，敵人已經糾集了更多的兵力，我們甩掉壹股又遇上壹股，很難得到個休整的機會。雪地行軍，褲子總是濕的，讓寒風壹吹，凍成冰甲，很難打彎，也不知有多沈，邁步都吃力。鞋子也都跑爛了，只好割下幾根柔軟的榆樹條子，從頭擰到尾兒，當作繩子把鞋綁在腳上。衣服，全叫樹枝扯爛了，開著花，白天黑夜都掛著厚厚的霜，渾身上下全是白的，全是涼的。
“這時候，多麽需要火啊！生起壹堆火，好好地烤壹烤，把凍成冰的衣服烤化、烤幹，把冷冰冰的身子烤暖。特別是夜裏，氣溫降到攝氏零下40多度，凍得大樹喀吧喀吧直響，粗大的樹幹凍裂了縫兒，人又怎能受得了啊！可是壹生火，火光照出老遠，青煙飄上林梢，敵人就會像壹群綠頭蒼蠅壹樣撲上來。我們只得不停地在雪地上蹦高，生怕坐下來再也起不來。
“更難的是沒有吃的，不要說糧食啊，連草也埋在二三尺深的積雪裏，沒法找，沒法挖，我們只好吃那難咽的樹皮。先把老皮刮掉，把那層泛綠的嫩皮壹片片削下來，放在嘴裏嚼啊嚼啊，就是咽不下去。勉強吃下去了，肚子也不好受……”
在與敵人反復周旋的過程中，為了縮小目標，楊靖宇又將隊伍化為小組分散突圍，他只留下十幾個戰士。由於他指揮作戰機動靈活，使敵人始終無法掌握他的行蹤和去向。後來叛徒供出了楊靖宇的行蹤和去向，敵人遂縮小了包圍圈，把楊靖宇和6名警衛戰士圍困在深山。
1940年2月18日，楊靖宇身邊的最後兩名警衛戰士，在向群眾購買糧食和衣服時被叛徒認出，壯烈犧牲，敵人因此更加縮小了對楊靖宇的包圍圈。
曾任中***滿洲省委軍委書記、東北抗日聯軍第二路軍總指揮的周保中，在《楊靖宇將軍生平事跡》中寫道：“到2月18日，他僅有的2名警衛戰士也在大東溝犧牲。至此，他只身壹人，陷於敵魔爪中。敵人妄圖生擒，但恐偽軍不力，以日寇合圍蒙江東南地區，封鎖大小路口，迫他於絕境。在萬分緊迫時，活動於蒙江、撫松間的曹亞範同誌，獲知他險狀，便率突擊部隊自東南禿砬子、牛槽溝向黃花甸子疾馳，但敵人兵力過厚，曹部也被重重包圍，敵飛機數十架輪流轟炸。2月23日下午，迫近之敵被擊斃者20余人。敵人步步逼近，且高呼：‘放下武器，保留生命，還能富貴。’回答敵人的是他手中槍射出的子彈。敵人見招降無效，遂集中火力，他因而身中數彈，光榮殉國，時年35歲。時間是：1940年2月23日下午4時30分。”
在日本侵略者留下的戰場實錄中有這樣的記載：“討伐隊已經向他（楊靖宇）逼近到壹百米、五十米，完全包圍了他。討伐隊勸他投降。可是，他連答應的神色都沒有，依然不停地用手槍向討伐隊射擊。交戰20分鐘，有壹彈命中其左腕，啪嗒壹聲，他的手槍落在地上。但是，他繼續用右手的手槍應戰。因此，討伐隊認為生擒困難，遂猛烈向他開火。”
當楊靖宇犧牲的消息傳來，抗聯壹方面軍全體將士抱頭慟哭。他們攥拳宣誓：頭可斷，血可流，堅決把抗日的大旗打下去，打到底，為楊司令復仇！僅3月2日至6日，壹方面軍在魏拯民、曹亞範、伊俊山率領下，對敵人發起三次拼死攻擊，被敵人驚呼為“打瘋了”的部隊。二方面軍、三方面軍也在各自地區頻繁出擊，不斷毀列車、斷交通、阻擊日軍，使敵人屢受創傷。
1946年，東北民主聯軍總部決定，將楊靖宇犧牲地蒙江縣改為靖宇縣，保安村改為靖宇鎮，以示永久紀念。人民在靖宇鎮楊靖宇遺體埋葬處修建了靖宇陵墓，舉行了追悼大會，並在群眾強烈要求下，在墓前當場槍決了漢奸王士洪、桑文海和告密者李正新、趙廷喜，為將軍報仇雪恨。抗戰勝利時，我地下黨組織尋找到了楊靖宇的遺首，恭送到東北烈士紀念館暫時寄存，並隆重舉行了公祭大會。
1947年底，楊靖宇的家鄉河南省確山縣解放了。楊靖宇生前曾多次告訴別人，家鄉還有母親、妻子和壹雙兒女。當年楊靖宇離開家鄉時，他的女兒馬錦雲剛降生五天，等組織上找到他家時，才得知楊靖宇的母親和妻子早已被國民黨反動派毒打致死，拋下壹雙兒女相依為命，那時女兒已經出嫁。當地人民政府立即撥給兄妹倆1000斤麥子，並把楊靖宇的兒子送到開封上工農速成中學。
1957年9月25日，黑龍江省暨哈爾濱市黨政軍民為楊靖宇隆重舉行遺首恭送儀式，通化市黨政軍民舉行隆重迎歸儀式；1958年2月23日，由通化黨政軍民組成的公祭安葬委員會將他的遺體與遺首對接起來，覆蓋國旗，舉行了隆重的公祭安葬大會。黨和國家領導人毛澤東、劉少奇、周恩來、朱德等送了花圈，朝鮮民主主義人民***和國領導人金日成、金壹等同誌，也送了花圈、挽聯。大會高度評價了優秀***產主義戰士楊靖宇光輝的壹生。會上，悲壯的哀樂聲起，人們吟唱著懷念他的歌曲：“灑熱血，遍地紅，楊靖宇是英雄，萬古千秋留英名，永遠活在人心中……”壹時哭聲大作，震撼山崗。