西汉末年，政治腐朽，经济凋敝，民不聊生，危机四起。外戚王莽利用这一形势，玩弄权术，夺取政权，建立新朝。但王莽上台后“托古改制”的做法，不仅没有使情况有所起色，反而导致阶级矛盾更趋激化。广大民众在忍无可忍的情况下，纷纷揭竿而起，以武力反抗新莽的统治。一时间起义烈火燃遍黄河南北和江汉地区，新莽王朝完全处于众叛亲离、风雨飘摇的境地。
在当时的众多农民起义军队伍中，尤以绿林、赤眉两支声势最为浩大。他们在军事上不断打击新莽势力，逐渐向王莽统治腹心地区推进。新莽王朝不甘心退出历史舞台，拚凑力量进行垂死的挣扎，农民起义于是进入了最后进攻阶段。昆阳之战正是这一历史背景下的产物。
新莽地皇四年(23年)初，绿林军各部乘王莽主力东攻赤眉，中原空虚之际，挥兵北上，在沘水(今河南泌阳境)击灭莽王荆州兵甄阜、梁丘赐部。接着又在淯阳(今河南新野东北)击败严尤、陈茂所部，势力迅速发展到十余万人。在胜利进军的形势下，农民军开始萌发了建立政权的要求，于是在2月间，推举汉室后裔刘玄为帝，恢复汉制，年号更始。更始政权的建立，标志着农民起义进入新的阶段，王莽在政治、军事各个方面日益趋于被动。
更始政权建立后，即以主力北上围攻战略要地宛城(今河南南阳)，并开进到滍川一带。为了阻止王莽军的南下，保障主力展开行动，更始政权另派王凤、王常和刘秀等人统率部分兵力，乘敌严尤和陈茂军滞留于颍川郡一带之际，迅速攻下昆阳(今河南叶县)、定陵(今河南舞阳北)、郾县(今河南郾城南)等地，与围攻宛城的主力形成犄角之势。这为下一步进击洛阳，与赤眉军会师以及经武关西入长安，消灭王莽政权创造了有利的条件。
王莽政权对更始农民起义军的战略动向十分不安，于是就慌忙改变军事部署，将主力由对付赤眉转而对付更始军。3月间，王莽派遣大司空王邑和司徒王寻奔赴洛阳，在那里征发各郡精兵42万，号称百万南进攻打更始军，企图以优势的兵力与农民军进行决战，一举而胜，以确保宛城，安定荆州，保障长安、洛阳的安全。
5月间，王邑、王寻率军西出洛阳，南下颍川，在那里与严尤、陈茂两部会合。
玄汉政府那些变民组成的部队，发现新政府军声势浩大，惊慌失措，纷纷向后撤退，最后退入昆阳(河南省叶县)。当时坚守昆阳的起义军只有八九千人，由当时任太常偏将军的光武帝刘秀负责指挥作战。将领们恐怕把他们抓住，一个个面无人色，担心呆在军中的妻子儿女。大家认为不如各回各城，使目标分散。刘秀竭力反对，说：“我们的兵力既少，粮食更少，而敌人却强大无比，唯一的办法是合力抵抗，还有成功的可能，一旦分散逃亡，就难以保全。现在，我们没有援兵，一旦放弃昆阳，只要一天时间，我们的人马，势必被全部消灭，想不到大家不但不能肝胆相照，誓死同心，共同建立功名，反而只想到妻子儿女，贪恋那抢夺来的一点财产!”将领们咆哮说：“你怎么敢说出这种话?”刘秀笑一笑，离席而去。
这时，有人报告说：“王邑大军的先头部队，已经到达城北，连营好几百里，看不见殿后部队。”将领们平常一向看不起刘秀，现在情况紧急，又没有什么办法，只好说：“请刘秀出来商量!”刘秀遂向他们简报他的计划：如何才会成功，如何将招致失败。大家一齐说：“一切都听你的。”这时，昆阳(河南省叶县)城中只有八九千人。刘秀命王凤(新市兵)跟司法部长(廷尉)大将军王常(下江兵)，留守昆阳。刘秀连夜跟五威将军李轶(南阳刘家班)等13人，骑马从南门出城，征召散居在外县的变民部队。
此时，新政府王邑进剿兵团前锋，已有十几万人，抵达昆阳(河南省叶县)城下，刘秀等几乎不能出城。王邑、王寻下令包围昆阳。严尤向统帅王邑建议：“昆阳城是个不重要的据点，城虽小，墙却坚，不容易一举成功。现在，叛乱集团的主角，远在宛县(河南省南阳市)，我们大军直扑基地，他们必定崩溃。宛县解决，昆阳自然平定。”王邑说：“从前，我包围翟义，不能生擒首脑，受到不少责备。如今，我身统百万大军，对第一个叛徒占领的城市，都不能攻下，恐怕无法展示我们的威力。我要先把昆阳攻破，屠杀全城人。然后，踏着鲜血，向宛县挺进，前队唱歌，后队舞蹈，岂不是更有快感?”
于是，把昆阳包围得水泄不通，阵地纵深几十重，营寨几百个，战鼓和号角的声音，几十里之外，都听得见。有些部队挖掘地道，有些部队用撞车攻城，箭下如雨。昆阳守军奋力抵抗，身背门板，运送饮水(身背门板，用以防箭)。守军统帅王凤(新市兵)不能支持，请求投降。新政府大军统帅王邑，断然拒绝(接受投降，就不能屠城，而王邑的目的正是要屠城，老幼妇女儿童，一口不留。王邑、王寻自以为成功就在眼前，对敌人毫不在意。严尤提醒说：“《孙子兵法》说：包围城市，一定要留个缺口。(目的在动摇敌人的军心，引诱敌人放弃战斗。)我们也应该留一个缺口，使守军逃走，把恐怖带到宛县(河南省南阳市)他们的基地。”
此时的王邑什么都听不进去。
新政府棘阳(河南省南阳市南)代理县长(守长)岑彭，跟前队(南阳郡，河南省南阳市)副郡长(贰)严说，共同坚守宛县(河南省南阳市)。玄汉政府部众围攻好几个月，城内粮食耗尽，人民饥饿，互相格杀吞食(人间惨事)，不能抵抗，举城投降。刘玄进入宛县，作为临时首都。
将领们要诛杀岑彭，报复他坚守带来的灾难。刘玄说：“岑彭，是郡政府的高级长官。坚守城垣，是他应尽的责任。我们创立大业，应当尊敬表扬义士，杀他反而不如封他官爵。”刘玄随即封岑彭为当归德侯。
刘秀冲出昆阳(河南省叶县)后，奔驰到郾县(河南省郾城县)、定陵(河南省郾城县西北)，征调所可能征调的变民部队。一些将领贪图夺到的财产宝物，打算留一部分士兵看守。刘秀警告说：“我们这次出击，如果打败敌人，有一万倍的金银财宝等着我们，而且还可以建立大业。如果失败，人头都没有了，还谈什么财产?”于是全部投入战场。
6月1日，刘秀跟各路变民部队，同时进发。刘秀亲自率领一千余人步骑兵，作为前锋，在距王邑兵团四五华里地方，构筑阵地。王邑、王寻派几千人迎击，刘秀奋战，杀几十人，新军败走。玄汉将领们兴奋地说：“刘秀一向胆怯，看见一小撮敌人，就害怕得不得了，可是今天面对大敌，却这么勇敢，真是奇怪!而且还亲自当前锋，我们应该帮助他。”
刘秀再向前挺进，王邑、王寻兵团，稍稍向后移动。玄汉各路军乘势攻击，又杀好几百人，甚至杀一千余人。一连串小小胜利后，再继续攻击，将领们胆量顿壮，以一当百。刘秀挑选3000壮士，组成敢死队，从昆阳城西郊，沿着护城河攻击，直冲王邑兵团的中央营垒。王邑、王寻没有把这支渺小的部队看到眼里，亲自率领一万余人的精锐，在阵前巡视;下令各营：不得允许，不可以出动，去单独迎击玄汉军。想不到一经接触，竟不能阻挡，略为向后撤退，各营没有奉到命令，不敢增援。于是，霎时间，新军阵地动摇，陷于混乱。玄汉各路军猛烈攻击，就在阵前斩杀王寻。昆阳守军看到形势逆转，立即开城出战，前后夹击，呼声惨厉，震动天地，新政府兵团六神无主，哗然崩溃，四散逃命，不能再成行列，互相践踏而死，跟被杀而死，一百华里之遥，尸体遍地。就在这时，天气忽然剧变，巨雷响起，狂风大作，屋瓦都被掀起，四处飞荡，天空像裂开了似的，大雨倾盆。滍水(沙河，发源于河南省鲁山县西，向东流经叶县北，至襄城县东南注入汝河)暴涨，虎豹猛兽，在木笼中恐惧发抖。新政府进剿兵团的士兵，被水淹死的有一万余人，河水堵塞不流。
王邑、严尤、陈茂三位统帅，骑马狂奔，踏着士兵的尸体，渡过滍水，向北逃走。所有辎重、粮食，全被玄汉军掳获，数量无法统计。玄汉政府拼命抢运，一连几个月都运不完，最后只好纵火烧成灰烬。新政府进剿兵团士卒们纷纷逃回他们所来自的郡县，无法再作集结。王邑单枪匹马跟他从首都常安(陕西省西安市)带出来的亲军几千人，狼狈逃回洛阳(河南省洛阳市东白马寺东)。
关中(陕西省中部)震动恐惧，各地英雄豪杰，纷纷起事，响应玄汉政府号召，诛杀新政府所派的全权州长(牧)、郡长(守)，而自称“将军”，用玄汉政府颁布的年号，等候进一步指示。一个月左右，天下几乎全部摆脱新政府控制。
昆阳之战是绿林起义军推翻王莽政权的一次战略性决战，也是我国历史上以少胜多的一个典型战例。在这次决战中，刘秀等人领导的农民起义军，以大无畏的勇敢精神和灵活机动的战法，一举全歼王莽军的主力，撞响了新莽王朝彻底覆灭的丧钟。它在历史上具有一定的进步意义。