公元前196年(汉高祖十一年)，刘邦在讨伐淮南王英布的战争中，中流矢负伤。历经四个月的奔波，回到长安后，刘邦伤势恶化。公元前195年(汉高祖十二年)四月，汉高祖刘邦在长乐宫中去世，享年62岁。
汉朝建立后的几年中，诸侯叛乱此起彼伏，汉王朝面临着一代而终的危机。刘邦政权从楚汉战争中开始，就是依靠与诸侯王、列侯之间的信赖关系维系的。刘邦一旦死去，汉王朝骤然崩溃的可能性极大。新旧帝王更替，继承皇位的刘邦之子是否能维系父辈的关系还没有保证。因此，刘邦死后，四日之内没有发丧。
汉朝建立后，刘邦相继诛杀了自己分封的诸侯王，而自始至终都在支持他的还有樊哙、周勃、郦商、陈平、灌婴、萧何、曹参、张良、王陵等人。这些与刘邦亲密的人，也都是汉王朝的开国功臣。但与其他诸侯不同的是，这些人都是沛县出身，有些相识于微时，有些是从小玩到大的发小。从沛公时代开始，他们就与刘邦并肩作战至今。即使在刘邦称帝之后，他们也还都是握剑保卫汉王朝。郦商作为丞相，曹参作为齐国相国，他们都与刘邦并肩讨伐英布;周勃、樊哙作为汉朝相国，相助刘邦讨伐燕王卢绾。
刘邦在晚年，对故乡有着深深的眷念。讨伐英布之后，刘邦曾回到故乡沛县。在沛宫，他聚集友人、父老子弟，开设酒宴，持续十多天。宴会中，刘邦激动万分，一边击筑，一边歌唱自己作的歌：“大风起兮云飞扬，威加海内兮归故乡，安得猛士兮守四方!”在孩子们的和唱中，他跳起舞，脸颊上热泪滚滚。年逾花甲的刘邦，在故乡的父老亲人面前流露出了情感脆弱的一面，也流露出了对守江山之艰难的担忧。之后，沛县和刘邦出生的丰邑都得到了免税的恩典。
刘邦在沛县时，曾对故乡人说：“吾虽都关中，万岁后吾魂魄犹乐思沛。”可见刘邦对故乡的眷念之情。遗憾的是，刘邦死后，遗骸被安葬在远离故乡的高祖陵墓——长陵。长陵位于秦咸阳宫北侧咸阳原上，隔着渭水位于长安长乐宫的正北，是在汉高祖七年迁都长安时开始动工修建的陵墓。此后的汉代帝王，都从即位的翌年开始建造陵墓。长陵自动工到刘邦去世，仅花了六年时间。
刘邦作为一代开国帝王，在立国和稳定政权方面，具有杰出的历史贡献。他击败西楚霸王项羽，收服割据一方的诸侯王，最终统一天下，使中原由乱世转而进入治世，结束了诸侯割据争霸、战乱频发的局势。在稳定政权方面，他不断削弱诸侯王，巩固统一政权，强化了中央集权，是历史的进步。然而，从人道主义来看，刘邦背信弃义、屠戮功臣，正应了那句谶语——“一将功成万骨枯”。