如果從義勇軍各部分的成分來看，它們大致可以歸納為正規軍隊和警察大隊、舊軍官、收編的胡匪、農民的秘密會社、知識分子和青年學生五個部分，分述如下：
壹 正規軍隊和警察大隊
⒈ 馬占山部：馬占山在江橋抗戰時所率領的黑龍江省防軍，計有步兵第壹旅孫鴻裕團、第二旅吳德林團、第三旅李青山團，騎兵第壹旅〔旅長吳松林〕、第二旅〔旅長程誌遠，後投敵〕，衛隊團〔團長徐寶珍，後投敵〕，炮兵團〔團長樸炳珊〕，此外還有壹個保安大隊和屯墾軍壹個旅〔旅長苑崇谷〕。馬占山壹度投降日寇後，他在抗日基礎上團結起來的黑省軍隊從此瓦解。他再度抗日時所能統率的武裝力量，只剩下他自兼旅長的步兵第三旅和吳松林旅擴編的鄧文、才鴻猷、邰斌山等部以及徐子鶴的山林隊和收編的胡匪李海青等部義勇軍，其余黑省部隊都不再聽他指揮。他自始至終，都用黑龍江省主席名義指揮軍隊。
⒉ 丁超、李杜部：丁李所領導的東北軍，是駐吉步兵第二十八旅〔丁兼旅長〕、第二十四旅〔李兼旅長〕、第二十六旅〔旅長邢占清〕、第二十二旅〔旅長趙毅〕和山林警備隊三個營。他們抗日時，吸收了其他部分潰敗的吉林省軍隊和壹部分義勇軍，與馮占海等部會同商定稱為“吉林自衛軍”。
⒊ 蘇炳文部：蘇所率領抗日的部隊，為黑龍江省防軍步兵第壹旅〔蘇自兼旅長〕和張殿九步兵第二旅，張玉珽第三旅，還吸收了壹部分舊黑龍江軍的殘部如樸炳珊、徐寶珍等部，稱為“東北民眾救國軍”。
⒋ 馮占海部：馮所領導的是吉林衛隊團全部和張作舟第二十五旅的兩個團及臨時招降胡匪編成的宮長海、姚秉乾兩個旅，會合丁超、李杜、趙毅等部並稱“吉林自衛軍”，並曾接受遼吉黑民眾後援會〔以下簡稱後援會〕所給的東北義勇軍第六軍團的名義。
⒌ 唐聚五部：唐原來是遼寧省東邊鎮守使於芷山〔當時投敵〕所兼步兵旅的第三團團長，抗日時先後組織了各縣警察大隊、義勇軍、紅槍會、大刀會等，稱為“遼寧自衛軍”，同時接受東北民眾抗日救國會〔以下簡稱救國會〕所給的東北義勇軍第三軍區名義，後來又改組為後援會東北義勇軍第三軍團。
⒍ 王德林部：王原來是吉興部東北軍步第二十七旅第壹團第三營營長，率部參加抗日後曾吸收了延邊壹帶的義勇軍、大刀會、紅槍會等，先稱為“國民救國軍”，後來參加丁超、李杜的“吉林自衛軍”。
⒎ 警察大隊：沈陽被日軍占領後，遼寧省警務處長兼沈陽市警察局長黃顯聲和督察長熊飛由沈陽帶出壹部分警察和公安隊，並在撤退途中收集了北寧鐵路附近的警察人員，進行抗日。東邊桓仁縣警察大隊長張宗周、柳河縣警察大隊長王鳳閣、鳳城縣警察大隊長郭景珊、復縣警察大隊長劉景文等各率領其全部或壹部分警察大隊，參加抗日。
二 舊軍政人員
九壹八事變時，東北軍有不少舊軍官如彭振國、李純華、王炤泮、於百恩、鄭桂林、賈秉彜、康悅臣、嚴經武等，有的已經退伍，有的在軍事機關掛個空名義，也有的是現役軍官。他們在事變以後，紛紛參加到各部隊抗日。因為他們多數是陸大、保定或東北講武堂等軍官學校畢業的，具有軍事知識，所以大都在各部隊中擔任領導和參謀工作。此外，當時各部隊還有壹些政府官吏參加，他們多數在各義勇軍總部工作。唐聚五部起義時，桓仁附近幾個縣的縣長也都參加了自衛軍，但以後多數中途變節投敵。
三 收編的胡匪
東北歷來素以胡匪著聞，吉、黑兩省的宮長海〔宮傻子〕、姚秉乾〔雙山〕、李忠義〔海青〕、張希武〔天照應〕、馬鳴春〔壹只雞〕、劉萬奎〔劉快腿〕，遼寧省的項青山〔項忠義〕、張海天〔老北風〕、小白龍等，多數是積年慣匪。九壹八事變以前，有的正在拉竿〔組織匪幫〕，有的被關在獄中〔如李海青〕，也有的已經地方當局招降〔如宮長海、姚秉乾〕。事變以後，各地統治機構垮臺，社會秩序混亂，乘機而起、臨時報山頭者更風起雲湧，紛紛受各部隊收編，參加抗日。
四 農民的秘密會社
原在關內豫東、魯西、冀南壹帶的大刀會、紅槍會等秘密會社，隨著這些地區的農民出關謀生，也發展到東北各地。九壹八事變以後，東北各地農民在日寇蹂躪之下，無法從事耕種，壹經號召，這些秘密組織便迅速發展起來，加入各部義勇軍。吉林省敦化、延吉、東寧、海林、珠河，遼寧省東邊壹帶的通化、桓仁、新賓等地，這壹部分民間武力最為活躍。邢占清、孫秀巖兩部義勇軍中，以這壹部分人數為最多。
五 青年學生和知識分子
事變之後，除了東北各地的青年學生參加抗日武裝之外，北平等地的大專學校也有不少青年學生出關投軍，其中以東北大學、東北中學和救國會所辦的許多訓練班（如學生軍）的東北籍學生最多。
此外，何香凝先生發起的華僑青年救護隊，直接參加了錦西前線的工作。又如國民黨中央軍校有學生四十多人憤於蔣介石的不抵抗政策，自動離校，到熱河參加抗戰。事變以後，代表救國會出關工作的人員，如車向忱去黑龍江，徐靖遠去吉林，黃宇宙去遼東，苗可秀去三角地帶，宋黎、張希堯〔宋、張等系中***黨員〕、張雅軒等去了沈陽和遼西各地。此外，在遼東慘遭日寇集體屠殺的救國會分會人員也多數是知識分子。