公元7年，起義軍由數百人壹下子發展到七、八千人，王匡、王風率領這支農民軍，占領了綠林山(今湖北大洪山)，把這裏作為根據地，繼續發展隊伍，對抗朝廷。這就是歷史上有名的“綠林軍”。
公元21年，王莽見起義軍的勢力漸漸大了起來，趕緊派荊州牧率兩萬官兵圍剿綠林軍，結果反被綠林軍打得大敗而逃。打了勝戰的綠林軍，氣勢更加高漲。他們趁勢攻占了竟陵(今湖北天門)、安陸等幾座縣城，打開監獄，放出關押的犯人，又把官倉的糧食拿出來，分發給饑餓的窮人。壹時間，綠林軍軍威大振，數不清的受苦人紛紛投奔綠林山，隊伍壹下增加到五萬余人。
由於醫療衛生條件較差，第二年，綠林山不幸發生了瘟疫，五萬多人將近死去了壹半。起義軍不得不撤離綠林山，分作兩路，尋找新的根據地。壹路由王常、成丹率領，西入南郡，號稱“下江兵”；另壹路是主力，由王匡、王風率領，北上南陽，號稱“新市兵”。這時候，平林(今湖北安陸北)人陳牧、廖湛聚兵起義，號稱“平林兵”。農民起義軍壹下子由壹支變成了三支，各占壹塊地盤，隊伍又漸漸壯大起來。
與荊楚農民起義軍遙相呼應，山東樊崇領導的“赤眉軍”，也如火如荼地鬧騰起來。他們大敗王莽派去的鎮壓部隊，在與官兵的鬥爭中，隊伍發展到十余萬人。
在聲勢浩大的農民起義的影響下，地主、豪強也趁機起兵。南陽西漢宗室劉繽、劉秀兄弟倆策動族人、賓客七、八幹人起兵於舂陵(今湖北棗陽)，號稱“舂陵兵”。他們和綠林三路人馬匯合，連敗王莽數員大將的進攻，隊伍迅速發展。到十余萬人。
匯合起來的綠林軍由誰來指揮呢?這當然是壹個必須解決的問題。豪強地主利用當時起義軍將士心中尚有的正統觀念，推舉出破落貴族劉玄。公元23年，綠林軍在清陽立劉玄做了皇帝，恢復漢朝，改年號“更始”。王匡、王鳳做了上公，劉演為大司馬，劉秀為太常偏將軍。從那時候起，綠林軍又稱為漢軍。