吴王阖闾在和勾践的战斗中，被勾践用箭射伤之后，病重身亡。阖闾在死之前曾对夫差说：“你不要忘记杀父之仇”，即位后的夫差发誓三年后必定灭掉吴国。
三年后，吴军大败越军，勾践被迫投降吴国。此时，伍子胥认为应该联合齐国彻底的覆灭越国，而当时的夫差认为小小的越国经此一役之后会一蹶不振，不足为虑了。夫差的考虑是先灭掉强大的齐国，然后一举问鼎中原大地。君臣二人之间因为这件事情有了间隙，这时有心思活络的下属开始向吴王进谗言，污蔑伍子胥早已投靠齐国。
吴王虽然不相信下人的挑拨之言，但也在伍子胥的身旁安排了间谍。不久，伍子胥被夫差任命出使齐国，在出使齐国的过程中，伍子胥将自己唯一的儿子托付给齐国的好友鲍牧。这件事被当初向夫差进谗的小人知道了，他马上上报给吴王，最终吴王赐剑伍子胥，令其自刎。
伍子胥在拿到吴王赐予的宝剑之后，感到非常的愤恨，但为了吴国的安宁，他只能选择死亡。在死之前，愤恨的伍子胥对其下人说：“我死后，请将我的眼珠挖下，放在东城门之上，我要亲眼看着吴国灭亡”。听到此事的夫差，下令将伍子胥的尸体丢入钱塘江喂鱼，这一天刚好是农历五月初五，后世也有人认为端午节侍卫纪念伍子胥而立的。
伍子胥死后九年，卧薪尝胆的越王就带领士兵偷袭吴国国都，夫差在自杀之前曾用布蒙眼，表示自己死后无颜见伍子胥。
伍子胥墓
伍子胥，名员，字子胥，生于楚国椒邑，今湖北襄阳市付家寨，死于现在的江苏吴县，是春秋时期的吴国属地。有关伍子胥的墓葬所在，现在这两个地方都有，也都出土过相应的文物。
《史记》记载，伍子胥在被吴王杀死之后，曾让下人将其的眼珠挖下，放于吴国的都城之下，他要亲眼看着吴国灭亡。得到消息的吴王夫差非常的生气，他命人将伍子胥的尸体丢入钱塘江中喂鱼，但由于伍子胥平日在民众的心中是一个忠臣的形象，所以执行此任务的士兵没有真正的将他的尸体扔入江中，反而将他给了伍子胥的同乡。
伍子胥的同乡将他的尸体偷偷地运回故乡之后，由于当时他的家乡还在楚国的统治之下，乡民们为了不让伍子胥的墓被盗，一共修建了100座坟墓，其中99座是假的，出殡时100口棺材齐出，所有人都不知道哪座是真坟。传说毕竟是传说，真实性没有多大，试想如果楚平王的后代知道伍子胥的坟墓在自己的境内，肯定会发动所有的力量掘开它的，就算是有99座假坟，那又如何。所以，伍子胥被同乡偷偷安葬的，墓碑后世所立的可能性非常之大。
伍子胥的第二处墓葬是在江苏吴县的胥口镇，这也是传说伍子胥被吴王抛尸的地方。相传，伍子胥的尸体被吴王夫差抛入钱塘江中的是五月初五，旁边的百姓为了防止他的尸体被鱼吃掉，向江中投去食物，所以后世很多人说端午节是为了纪念伍子胥的，并不是屈原。后来，伍子胥的尸体被百姓打捞上来，就近安葬在了旁边的一座山中，现在这座坟墓的墓碑，坟茔都还保存的很完整。
最好的说法是，这两个墓有一个是衣冠冢，或者两个都是衣冠冢，伍子胥的尸体已经被钱塘江所吞噬。
伍子胥后人
伍子胥在苦谏吴王夫差失败后，又被夫差派去出使齐国，预感到吴国将不久存于世的他将自己的独生子托付于齐国的好友鲍牧。对于他的后人的姓氏问题，有三种说法，一说姓伍，一说姓王孙，一说姓员。
“伍”一说起源于黄帝身边的大臣伍胥，伍胥本为皇帝部落的大臣，后来他的后人就以“伍”字为姓，楚国贵族伍氏也尊伍胥为祖先。还有一种说法是“伍”这个姓氏来源于楚国的大夫伍参，伍参是伍子胥的祖父，伍家的楚国贵族身份就在伍参的时候确立起来的。当时伍参当上大官之后，就以伍胥为祖先，后人就以伍为姓，伍姓就这样的流传下来了。
当世很多姓伍的家族族谱中都有伍子胥的名字，所以很多伍姓后人都以伍子胥的后人自居。这种说法不太准确，姓伍并不代表就是伍子胥的后人，当时身为楚国贵族的伍家，是有着很多的旁支的，有些本不姓伍的人为了荣华富贵，改姓伍的也有很多，所以姓伍并不一定是伍子胥的后人。
相传伍子胥在将自己的独子托付给齐国好友鲍牧之后，让他的儿子伍封拜鲍牧的儿子鲍息为兄长，并嘱咐他的儿子以后要以王孙封为自己的名字，不能再用伍封。所以后世，将王孙氏的人当做是伍子胥的后代。
伍子胥本名叫伍员，伍子胥在吴国发迹之后，有人开始投靠依附于他，伍氏在吴国又重现了在楚国时的鼎盛之况。后来，伍子胥的旁系后人以“员”为姓，后人将员氏看做是伍子胥的后世子弟。唐朝时著名诗人，平原郡公员半千就自称是伍子胥后人。