隋炀帝杨广执政期间，对国民横征暴敛，百姓民不聊生;对干部猜忌暴虐，杀了很多高官。就连帮他设计执行阴谋、害死亲爹获得政权的大臣杨素，他也暗下杀心。好在杨素死得早，在官位上去世。他死后，杨广对身边人说：“他要是不死，早晚得是全族屠灭。”这话后来传到了杨素儿子、礼部尚书杨玄感耳中。
作为高干子弟的杨玄感在官场中有很深厚的关系网，为人又仗义，四海之内不少人归附于他。他眼看政府日渐混乱，“一把手”杨广对手下又这么猜忌，再听到这话，对这一政府彻底失去了信心。于是和弟兄们暗中策划，趁随杨广第二次征讨高丽时，带兵回撤，宣布叛变，另立中央。他扯起大旗振臂一呼，对百姓说：“皇帝无道，不管百姓死活，天下骚扰，成千上万的人死在辽东。现在我同你们起兵救百姓，你们是否同意?”“我家富贵已到顶端，对荣华富贵已再无所求，现在冒着全族屠灭的危险，就是为了解救百姓。”听众欢喜踊跃，从者如流，每天投军的百姓，以千为单位。
不仅百姓，许多一起长大的高干子弟也对他这一造反行动欢呼雀跃，大将韩擒虎的儿子韩世萼、观王杨雄的儿子杨恭道、光禄大夫虞世基的儿子虞柔、大将来护儿的儿子来渊、御史大夫裴蕴的儿子裴爽、大理卿郑善果的儿子郑俨等四十名高干子弟都来投效，在造反派中分别任职。杨玄感的智囊，则是名门望族之后李密。
虽然造反派装备不良，一开头都是手持单刀柳木盾，又没盔又没甲，但士气高涨。杨玄感身先士卒，勇不可当，反抗军不断传出捷报。但造反派毕竟是乌合之众，又都是经验不足的年轻人当头儿，比不上受过专业训练、有专业装备的正规部队。杨广带兵从高丽返回，政府军投入战斗后，强弱立刻显现出来。再加上富贵出身、没经过真正世面的杨玄感刚愎自用，后来轻信小人计谋，不听李密的劝告，一再出现决策失误，终于与隋军主力遭遇，在精锐部队的打击下，造反派很快被击溃。
杨玄感自觉难免一死，让弟弟杨积善杀死自己，杨积善此后自杀未遂被俘，后被砍头。隋军在洛阳将杨玄感的尸体剁成肉酱，屠杀杨玄感党羽和追随其起义的百姓三万人，杨玄感包围东都时曾开仓放粮赈济灾民，凡在当时拿过粮食的百姓，此时也都被诛杀，东都城内外血流成河。有革命性，却无革命的力量与谋略，一次革命小将的造反，就这样被平定了。