有一天，他竟对着镜子哀伤地说:“好头颅，谁当砍之?”他备下了一缸毒酒，对他的宠妃们说:"贼兵若来了，你等先饮，然后朕也饮之。"其实，隋肠帝很怕死，还幻想能得到宽恕，他对肖后说:"痛痛快快地喝酒吧，不管怎样，朕不失为长城公，卿亦不失为沈后。(长城公，是南朝亡国之君陈后主降隋以后隋给他的封号，沈后即陈后主的皇后。)
然而，当隋炀帝死的那天来临的时候，禁卫军哗变了，隋炀帝怕被杀头，便从身上解下一条绢带，递给禁卫军头领，让他把自己活活勒死了，死时年仅50岁。同时被处死的还有他的两个儿子和一个孙子。隋炀帝死后，肖皇后和宫人用床板做了三口小棺材，将其装硷，草草埋葬了。后来，江都太守陈核又把他改葬在江都城西的吴公台下，以后又移葬雷塘。
民间传说，因隋炀帝作恶多端，他葬在哪里，雷就轰到哪里。隋炀帝墓后来渐渐荒芜。直到清朝嘉庆年间，才被住在雷塘附近的扬州学者阮元发现，现陵前有阮元重修时所立的碑，碑上刻有当时的书法家、扬州知府伊秉授所书"隋炀帝陵"四个大字。
南朝后主是在隋炀帝即位那年即604年死去的，当时，这位雄心勃勃的新皇帝赐给死去的陈后主一个贬称"炀"，意思是说他一生贪图花天酒地而荒疏了政务。显然，他是在嘲弄这个亡国之君。但是，没想到，14年之后，隋炀帝自身，也被大家称为了“隋炀帝”。