由于先前征讨刘秀失败了，王莽于是再征召42万大军，命令大司空王邑、司徒王寻前往南阳镇压。他甚至把上林苑中饲养的虎、豹、犀、象等动物驱赶南下，想以声势吓人。并且将一个高过丈余，腰有十围的凶壮巨人名叫巨毋霸的大力士，改名为“巨母霸”，封为垒尉，即防守堡垒之人，派上战场。表面看来，确实声势煊赫，王莽遂把这支部队命名为“虎牙五威兵”，号称100万。于公元23年夏季，南下与严尤、陈茂会合。
王莽的百万大军经过颍川郡时，“旗帜蔽野，埃尘连天，钲鼓之声闻数百里。”正好与刘秀所带的在昆阳北边阳关聚（今河南禹县西北）巡查的几千人遭遇。汉军见新莽军太盛，不待命令就争相逃命。当时北伐军总共才有2万人，且分散在所占领的四郡。一时集中不起来，即使集中起来，也会被这百万雄师碾为齑沫。刘秀等人哪敢正面与之交锋，没办法，也就跟随众人退回昆阳据城死守。汉军将士们无不内心怯懦，惊魂未定，皆言不可抵挡，商量着逃跑的办法，士气低沉如暮云。刘秀这时显露出了他临危不惧的英雄本色，他说昆阳是军事重镇，不能丢。现在敌强我弱，逃也免不了一死；唯有拼死一战，或有胜机。但因刘秀资历浅，在更始诸将领中威望不够，认为他“素日小敌怯，何来大敌勇？”所以没有多少人信服。刘秀表示，愿身先士卒，杀出重围，去郾城、定陵搬兵。他只要王凤、王常等人死守昆阳就行，等待援军。当时昆阳守军只有八九千人，刘秀遂带着骠骑大将军宗佻﹑五威将军李轶、偏将军邓晨等13名心腹骑兵，由南门乘黑夜杀出。
新莽将领王邑很轻视汉军，并不把这十几匹人马放在心上，认为是逃兵而已；而更始将领王凤则认为这十几匹马，要想冲过新莽的阵营，那也简直就是神话。因此，就在昆阳被重重包围的情形下，决定投降。但王邑拒绝了，他说：“百万雄兵，所过当灭，今日屠此城，以血砺刃，岂不快哉！”决心屠城立威，因此不肯接受王凤的投降。王凤顿成哀兵，唯有死守。昆阳城坚，王邑一时攻取不下，形成僵局。
刘秀到郾城、定陵一带游说，郾城、定陵两县都是舂陵子弟兵，义气千秋，甘愿同生共死。因此他先带回来1000多人组成先头部队，回兵救昆阳。王邑自恃兵力雄厚，骄妄轻敌，“意气甚逸”，又自以为是，和王莽一样，都是“腐儒”角色，迷信“声威”之类虚的东西，并不把这股小部队太当回事，仅派几千人的巡逻队阻挡刘秀。刘秀一改平日儒雅的形象，表现出大无畏的英雄主义气概，冲锋陷阵，来回冲杀，接连斩杀几十个新莽兵。军威大振，更始将领赞叹道：“偏将军是见小敌怯、见大敌勇！甚可怪也，且复居前。请助将军！”于是纷纷忘死，杀向敌阵。就这样，刘秀首战告捷。
刘秀不但勇猛，而且极有智谋，他写了一封宛城已派大军增援昆阳的书信，不日即可抵达，在送往昆阳途中，故意丢弃于地。王邑军捡到后争相传看，王邑得知后大惊，加之新败，军心遂如秋草遇霜一样，立时摇落。
而刘秀由于首战告捷，个个意气昂扬，恨不再战。于是刘秀又在陆续赶来的援军中，挑选精壮，组成一支3000人的敢死队，如狼嚎叫似的向王邑的大本营猛冲。新莽军本就是征召来的各地郡兵，斗志不强，又新败怯敌，恐惧像瘟疫一样蔓延。王邑又担心州郡兵失去控制，遂下令各营坚守阵地，不准擅自出兵。这等于自捆手脚，只能陷入被动挨打的境地，因此双方刚一交锋，阵脚即乱，那些虎、豹、犀、象，首先伤了自己人，又不像训练场上可以收拢。不多时，司徒王寻就死于乱军之中，副帅一死，士气顿挫。而坚守昆阳城内的王凤守军，趁机杀出城外，夹击王邑军。王邑腹背受敌，加之此时天助刘秀，风狂雨骤，滍川盛溢，王邑军惊恐，争着逃命，互相践踏，溺死者不计其数，浮尸百里，水为之塞。王邑﹑严尤﹑陈茂轻骑踏着死尸渡水而去，一口气跑了上百里才停下。王邑回到洛阳只剩下长安勇敢数千人。百万雄师就这样一败涂地，王莽的主力遂告覆没。汉军则战果辉煌，尽获武器辎重。
昆阳之战，遂成为中国古代战争史上以少胜多、以弱胜强的绝妙战例。
刘秀一战成名，与其兄刘縯成为汉军双壁。
从此，王莽再也没有能力和更始抗衡了。各地豪杰闻讯后纷纷树立反莽大旗，撞响了新莽王朝彻底覆灭的丧钟。