伍子胥在国际上享有相当高的声望。夫差在北伐齐国之前，决定派他前往齐国送宣战书。由于长期的挫折和压抑，伍子胥的内心非常不平衡。他判断，依照夫差的政策和伯嚭的误国，迟早会造成吴国国内的大动乱，情势的发展对自己的家族将非常不利。于是，他趁着出使齐国的机会，将儿子秘密带往齐国，寄托在齐国贵族鲍氏家中，并改姓为王孙氏。
在和君主关系高度紧张时，伍子胥做出这样的动作，真可谓聪明一世糊涂一时。果然，伯嚭很快得知了这一重大秘密，立刻派人展开调查，并迅速将详情向夫差报告。夫差正在前线和齐军对阵，听到消息后勃然大怒，大声斥责道：“伍员（伍子胥）果然欺骗寡人！”
艾陵之战获得全胜，夫差的声望节节高升。他审查国内军政各股力量情势变化后，决心彻底解决和伍子胥之间的争执。回国后，他立刻召见了伍子胥，并直接指责道：“从前，先王（阖闾）圣德昌明，明白通达于天，垂留功绩，为了你与西邻楚国结下大仇。先王就如同是农人一般砍除四周之蓬草，因而扬名立万于荆楚一带，你的确居有大功。可此一时彼一时，如今你年老糊涂又不安分，滋生变故，激起诈伪，造成怨恨憎恶。怨恨一出，就怪罪士卒民众扰乱法度，想以妖孽来挫败军队士气。幸赖上天降福，得以大败齐师，寡人怎敢自居功劳？这全都是仰赖先王遗德的庇佑以及神灵的福佑。只是，你现在又为吴国出了什么力呢？”
伍子胥听了这话，心知自己替儿子所做的秘密安排已经曝光，夫差绝不可能原谅自己，心下已做了必死的准备。他当朝愤怒地举臂解下佩剑，说道：“过去，历代先王都有辅弼大臣，决断疑难，考虑得失，使国家不陷于大难。如今，大王抛弃元老大臣，只与缺乏经验和智慧却野心勃勃的权臣商议国策，还下令不得违背大王的命令。这个不违背，不但是违背了上天之意，也正是吴国灭亡的先兆。上天想要放弃谁，必定先让他贪图眼前的小利，再让他吃苦头。大王如果因为不能得志于齐国而有所觉悟，吴国还可以继续生存下去。先王如果得到什么，一定有得到它的理由和条件。同样的，失去什么也就有抛弃的理由。故而能保持国势鼎盛的局面直到终世，也能及时纠正倾败。如今，大王不具备任何条件，上天就降福于大王而击败齐国，这是因为吴国短命啊！伍员不忍称病告退，见到大王遭到大挫折而被越国所擒，因而愿意先行受死！”
夫差本来并没有想要杀死伍子胥，只不过想要挫挫他的锐气而已。但伍子胥太强硬了，一副不怕死的样子，夫差更是气盛难消。他痛恨伍子胥的傲气凌人，丝毫不给自己留半点面子。于是，夫差勃然大怒地叱喝伍子胥，要他立即退出朝堂。伍子胥退出后，夫差余怒未消，派出一名特使，赐给伍子胥一把属镂剑，传旨道：“既然如此，你就自杀吧！”
这把属镂宝剑，是一把有名的凶剑。据说，把这把剑放到血中，它能把血自动吸干。
伍子胥在接到属镂剑后，仰天长叹道：“我在破楚灭越的战役中，立有大功，并使吴国威震诸侯，成为霸主之国。大王在被立为太子之前，诸公子争权，我在先王面前以死力争，协助大王取得王位，导致诸公子对我非常不满。当初，大王要将吴国一半的国土赐给我，我不肯接受。想不到，如今大王竟然因为听信谀臣之言，反而要将我置于死地。我是死也不会瞑目的！”
于是，他嘱咐使者：“我死后，一定要将我的眼珠挖出来，悬挂在吴城的东门上，我要亲眼看到越国大军攻人吴城的情形！”
说完，便举剑自刎。
夫差本念伍子胥劳苦功高，打算厚葬他。可在得知他的遗言后，气得命人把伍子胥的尸体从坟墓中刨了出来，以鸱夷（也就是革囊）裹着尸体沉入江中。后来，这个皮革袋子漂进了太湖。
这一天，是农历五月初五。善良的百姓为了不让水中的鱼儿惊扰伍子胥，就纷纷将家里的糯米蒸了，包上叶子投入江中喂鱼。每年农历“五月五日，百姓迎涛而上，迎接伍君”。据说，端午节由此起源，这个记载早于对纪念屈原的记载。
后人为了纪念伍子胥，便把挂过伍子胥首级的城门叫做“胥门”，把投他尸体的河叫“胥江”，把湖口称为“胥口”。胥口附近的一座山也被命名为“胥山”。胥口太湖边上还有一座胥王庙，庙内有伍子胥的衣冠墓，还封他为镇湖的湖神。
伍子胥墓位于今天江苏苏州吴县胥口百伍相国祠内。据苏州当地的方志记载，公元前514年，伍子胥奉吴王阖闾之命，“相土尝水，象天法地”，建造阖闾大城，即今天的苏州城。伍子胥还对苏州的水利建设做出了巨大贡献。“胥溪”、“胥浦”的开掘和疏通，既避免了水患，又便利了交通和灌溉。
一代忠臣竟落得如此下场，令人扼腕。
这就是政治斗争的残酷，没有办法。范蠡在庆幸大敌已除的同时，也备感失落和悲痛。同时，伍子胥的下场也在他心里敲响了一次警钟，对他后来人生道路的选择影响重大。
但伍子胥刚愎自用、缺乏圆融的个性，也是促使他成为悲剧人物的一个原因。伍子胥死后，吴国的大权完全集中到伯嚭和王孙雒手中。伯嚭对夫差表示：“越国已经完全臣服我国，勾践会全心地完全来侍候我们，请大王不必担忧。”
盛怒过后，夫差也有点为伍子胥感叹，无奈地说：“寡人将致力于中原争霸，要让伍员看到他的担心是庸人自扰，他对寡人低估了。以后，吴国内部的政事就全权委托给你们了，有什么情况你们就看着办好了。”
伯嚭在掌握大权后，文种便依两人长期以来的关系，加强贿赂，以松懈吴国对越国的戒心。
吴国的朝政更加腐败昏暗，国力以一日千里的速度迅速衰落。
范蠡的反间计终于成功了。