饥民纷纷离开城邑，流亡进入山野湖泽，挖野菜树根为食。可饥民实在是太多了，甚至于连野菜树根都不够吃，有的饥民之间还会发生打斗。
这样的纠纷多了，就需要推举一些有威望的人出来做领袖以便裁决，这样的饥民领袖，在新市(今湖北京山东北)是王匡，王风，在南郡(今湖北江陵)是张霸，在江夏(今湖北黄冈)是羊牧。
随着灾情的加重，王匡等人也意识到老吃野菜树皮不是办法，于是开始率领饥民出山打家劫舍，聊作谋生之计，计划等到政治平静，粮食丰熟时再考虑下一步的打算。因为王匡领导的这支义军平时藏在绿林山中，没粮食了，就到村子里打劫点粮食果腹，所以被朝廷成为“绿林贼”。
王莽也曾派使者去解散绿林军，承诺赦免他们的罪过，使者回来告诉王莽说：“这些人解散不久，又重新聚集到山中去了，问他们原因，他们回答说：‘赋税太重，法令太严，实在活不下去’，看来盗贼群起的主要原因还是百姓太穷了。”
王莽听后很生气，认为使者是在诽谤朝政，免得他的官。当时天下造反的农民都和绿林军一样，只是平日里在乡间打家劫舍弄点粮食度日，并不敢去进攻城邑。他们即使抓获前来讨伐的官员，也立刻放掉了。他们心中并没有什么真正的造反的计划，纯碎是饥寒交迫所致。
但是这一点，王莽却始终不明白，他总是向用军事高压和严刑酷法将百姓吓到，却不知这样正是抱薪救火，只会使农民起义的烈火越少越旺。地皇二年(21)，新朝军队2万人大举进攻绿林军，王匡等人率军迎击，与新朝军队大战于云社，安陆城(今湖北云梦)，总兵力发展到5万人，绿林军扩张迅猛。这时，一场瘟疫让王莽政权苟延残喘了一段时间。
义军大获全胜的第二年，荆州发生了严重的瘟疫，绿林军将士死亡了一半多。为了维持住队伍，王匡只好将军队分散为两部离开绿林山，一部由王常，成丹率领西入南郡，号称“下江兵”;另一支由王匡，王风等率领北入南阳(今河南叶县)，号称“新市兵”。