一天，阖闾问伍子胥：“我想使国家富强，并成就霸王之业，怎样做才行呢？”伍子胥回答说：“凡是想巩固君位、治理好人民、建立霸王之业的人，都必先修筑好城廓，完善守备，充实仓廪，加强军力，这就是办法。”阖闾很赞同他的意见，便把修缮城廓、完善守备的任务交给伍子胥。伍子胥接受了任务，便积极行动起来。他察看山川河流，认真审视地形，规划建造坚固的城廓，并修建仓库，打造兵器，使吴国的武备大大增强。阖闾对此十分满意。
周敬王六年（即吴王阉闾元年）六月，楚国的伯嚭也逃奔到吴国来了。伍子胥对伯嚭的到来感到非常高兴。有人问他为什么高兴，他回答说：“我的仇怨和伯嚭相同，这就叫同病相怜，同忧相救。”阖闾对伯嚭不了解，不敢加以任用，便问伍子胥：“伯嚭是个什么样的人？”伍子胥回答说：“伯嚭是楚国左尹（相当于副丞相）伯州犁的孙子。楚平王听信谗言，杀害了伯州犁，因此伯嚭就逃了出来。他听说我在吴国，所以就到吴国来了。请您接见他吧。”于是阖闾便让伯嚭做了吴国的大夫，让他与伍子胥一起参与国事。
在伍子胥的帮助下，阖闾终于稳定了在吴国的统治地位，并加强了吴国的实力。从此以后，他就开始积极向外发展了。
鞭楚王尸
楚国是吴国的近邻。吴国要想向外发展，楚国是最大的障碍。阖闾想，只要首先攻破强楚，越国自然就不成问题了。这样就可以先称霸东南，进而再北上争霸中原。
周敬王八年十二月的一天，吴王阖闾对伍子胥说：“当初您劝僚伐楚的时候，我知道事情是能够成功的，但因为我怕他让我去伐楚，误了我的大事，又不愿意别人夺取伐楚之功，所以才竭力阻挠您的伐楚计划。现在我将亲自完成伐楚的功业，你看该实行什么样的战略呢？”于是伍子胥献计说：“楚国的政治混乱，执政的人大多互相不和，有事互相推诿，没有人愿意承担责任。我们正可利用这一点；既加剧其执政者相互间的矛盾，又可以打击和削弱楚国的实力。”阖闾问：“那该怎么做呢？”伍子胥说：“我们可以组织三支军队，轮番对楚国进行袭击。第一支军队去攻楚国，楚国必然出动大军迎战；楚军一来，我们就迅速撤退。等楚军回去了，我们再出动第二支军队袭击他们；等他们来迎战，我们又迅速撤退。这样不停地轮番袭击，必然使楚国疲于奔命。同时每一次袭击对楚国所造成的破坏，以及因反击无功而造成的楚国执政者之间的相互指责，都必然加剧楚国政治的混乱。这样到楚军疲惫已极、政治上也更加混乱的时候，我再派三军一齐出动，必然大获全胜。”听了伍子胥的建议，阖闾连声称好，便依计而行。
经过一番准备之后，从第二年开始，吴国便对楚国实行轮番袭击的战略。吴国先出动军队攻打楚国的夷邑（在今安徽亳县东南），又侵袭潜邑（今安徽霍山县南）和六邑（今安徽六安市东北）。楚国匆忙派左司马戌率军前往救援，吴军便迅速撤走了。接着吴军再次攻楚，包围了楚国的弦邑（今河南息县南），兵锋一直抵达豫章。当楚国派大军抵御时，吴军又迅速撤走了，这样轮番不间断地对楚发动袭击，楚军从此开始疲于奔命。
为了保证对楚作战的胜利，周敬王九年（前511），伍子胥又向阉间推荐孙武。孙武是我国古代著名的军事家，他所著《孙子兵法》十三篇流传至今，并为世界上许多国家所重视。但当时孙武还隐居在吴国，很少为人所知，是伍子胥发现了他这个人才，并及时地把他推荐给吴王。有了这样一位杰出的军事家做将领，吴国对楚作战就更有胜利的把握了。
不久，阖闾得知吴国遗失多年的一把名叫湛卢的宝剑被楚昭王得到了，于是大怒，当即决定由伍子胥、孙武和伯嚭率军伐楚，一定要夺回湛卢剑。当时要论各方面的准备情况，吴国还不宜对楚发动大规模的军事行动。不过在阖闾的盛怒之下，伍子胥等也只好听从。当时楚国有一位贤臣，名叫子期，颇得人心，又善于用兵。伍子胥想，如果楚国用子期为将，要想打赢这一仗，就很难有把握了。于是他心生一计，派人放出空气说：“吴国最怕同楚国的子常打仗，如果楚国让子常为将，吴兵就将避免和他交锋，而将军队迅速撤回。吴国最希望楚国能用子期为将，如果用子期为将，吴军就一定能打败楚军，并杀死子期。”昏庸的楚昭王本来已经任命子期为将了，听了吴国放出的空气，不加思索，便信以为真，于是又把子期撤了下来，重新任命子常为将。结果这次打了败仗，丢失了两个城邑。吴国在获得夺取二邑的战果之后，也就迅速撤回了。因为伍子胥、孙武和伯嚭心里都清楚，现在对楚发动全面进攻的时机还不成熟，打一仗，给阖闾出出气就是了。
周敬王十四年，即吴王阖闾即位的第九年，阖闾要破楚入郢（今湖北江陵）之心已经急不可待了。一天，他对伍子胥和孙武二人说：“开始你们说时机不成熟，楚国的郢都还不可攻破，现在你们看怎样了？”伍、孙二人见吴王的决心已定，很难再说服他等待，便向阖闾献计，应利用蔡、唐二国与楚国的矛盾，联合蔡、唐二国以伐楚。吴王阖闾采纳了他们的意见，于是吴国联合蔡、唐向楚发起大规模进攻。
吴军与楚军夹汉水而布阵。吴王的弟弟夫概瞅准了一个机会，率领他的部下五千人对楚发起攻击，紧接着大军掩杀过去，把楚军打得大败。楚军统帅子常因战败而逃奔到郑国去了。楚军群龙无首，溃散逃窜。
吴军乘胜追击，五战五胜，一直攻入了楚国的郢都。楚昭王逃奔到随国去了。
吴王阖闾破楚入郢的心愿终于实现了！其首功，应归之于伍子胥多年来的精心谋划。
伍子胥的家仇也终于得报了。使他感到遗憾的是楚平王已死。昭王又已外逃，无法对活人下手。为了解恨，他掘开楚平王的坟墓，搬出平王的尸体，对尸体抽打了三百鞭，又用左脚踩着尸体的腹部，右手抠出尸体的双眼，讥诮地说：“谁让你听信谗言，杀害我的父兄呢？你今天落得这个下场，不冤枉吧！”随后将平王焚骨扬灰。
这时楚臣申包胥逃亡在山中，他与伍子胥本是好朋友。他听说伍子胥在郢都掘墓鞭尸，便派人前去责备伍子胥说：“您报仇，也太过分了吧。您本是平王的臣子，现在居然对平王掘墓鞭尸，这样来报仇，您的做法也太不顾及天道了吧！”伍子胥对来人说：“请为我回申包胥，就说我日暮而路远，不得不倒行而逆施。”
吴军对郢都的占领并没有持续多久。很快申包胥从秦国搬来了救兵，楚军也重整旗鼓与秦军联合杀来，而吴王阖闾的弟弟夫概又趁阖闾在楚、国内空虚之机，跑回国去自己称王。与此同时，越王允常也兴兵攻吴。形势骤然变得对吴国十分不利，吴国不得不从郢都撤兵了。
但吴国并没有就此放弃打击楚国的战略方针。过了两年，阖闾又派其子夫差率兵伐楚，并夺取了番地（大约在今江西鄱阳湖附近）。楚因惧怕吴国再来侵犯郢都，便把国都迁到鄀（今湖北宜城）去了。
攻破越国
周敬王二十六年，阖间以越不出兵跟从他伐楚为罪名，兴兵伐越。越王勾践领兵迎击。两军在今浙江嘉兴市西南交战，结果吴军被打得大败，阖闾一只脚的大拇指也被越人击伤了。吴国只好收兵而回。
阖闾受伤后一病不起。但这时吴王还没立太子，他感到自己快要不行了，便开始考虑立太子的事。伍子胥也很为这事犯愁。他希望阖闾能有一位好的继承人，使他千辛万苦辅佐阖闾创立的功业能得以保持。正在这时，夫差来求助伍子胥，说：“父王想立太子，除了我，还有谁更合适呢？父王十分信任您，这事就全听您一句话了。”伍子胥从平日对夫差的了解，认为他在诸公子中，确实是立太子的理想人选，就决定帮助他，于是他对夫差说：“大王还未拿定主意，我这次进去一说，就将决定了。您就放心吧。”恰巧在这时，阖闾召伍子胥进去商量立太子的事，伍子胥便乘机对吴王说：“我听说，王业的废坏，往往是由于后继无人；王业的兴盛，则在于能够选立贤嗣。依我看，要立太子，诸子中没有比夫差更合适的了。”阖闾却说：“我看夫差愚蠢而又缺乏仁慈之心，恐怕不能继承吴国的大业。”伍子胥说：“夫差待人诚信而又友爱，恭行正道而又敦守礼义。父死子代，经书上早有明文。请立夫差为太子，不要再犹豫了。”阖闾对夫差这个人选虽不太满意，但经不住伍子胥的反复劝说，又基于对伍子胥的信任，心想也许自己对夫差的看法不正确，而伍子胥的看法才是对的，于是就同意了伍子胥的意见。他对伍子胥说：“立太子的事，我就听从您的意见了。”夫差就这样被立为太子。阖闾立太子后不久就死了。临死前，他把太子召来问道：“夫差，你忘了越王杀父之仇了吗？”夫差立即肃然正容回答说：“不敢忘！”这实际上就是要夫差为自己报仇。
阖闾死后，夫差即位，在伍子胥等人的辅佐下，积极准备伐越报仇。经过三年的准备，到了周敬王二十六年春，夫差亲率大军，举行大规模的伐越战争。吴军在夫椒（今浙江绍兴）把越军打得大败，越王勾践只带五千人逃奔到会稽山（今浙江绍兴市东南）上。吴军把会稽山团团围住。越国灭亡的命运似乎已经注定了。
处于生死存亡关头的越国君臣经过紧张的谋划，决定卑躬屈膝，向吴国请和投降，只要能求得生存，就不惜一切代价，然后再作将来的打算。他们还通过贿赂，买通了太宰伯嚭；伯嚭答应帮助吴国说服夫差同意媾和。这样，在越国极其谦卑的言辞恳求下，加上伯嚭的竭力怂恿，也还有一条重要的原因就是夫差急于北上伐齐，进而争霸中原，也想尽快了结越国的事，因此夫差决定接受越国的求和。
这时，只有伍子胥看到了同越国媾和的巨大危险，因此竭力反对，而主张乘胜前进，将越国彻底消灭，免遗后患。他劝夫差说：“千万不可接受越国的求和！越国和吴国是仇敌之国。吴越二国周围有三江（指吴江、钱塘江、浦阳江）环绕，二国的人民没有别的地方可迁徙，有吴就没有越，有越就没有吴，这种势不两立的局势是任何时候也不会改变的。我听说，陆生者居陆，水生者居水。北方中原地区的国家，我们攻打他们取得了胜利，我们却不能居住他们的土地，不会乘坐他们的车辆；对于越国，我们战胜了他们，却能够居住他们的土地，能够乘坐他们的舟船，这也正是我们攻打越国的利益所在。机不可失，时不再来。大王一定要把越国灭掉！否则将来后悔也来不及了。”伍子胥还举出历史上的经验教训说：“夏朝时候太康失国，被有穷氏的后羿夺取了政权。后羿又被他的部下寒浞所杀，帝位又被蹇浞所篡夺。太康和他弟弟仲康在外逃中不久都死了。仲康的儿子名叫相，便去投靠斟灌（今山东寿光县东北）、斟郡（今山东潍坊市附近）两个夏的同姓部落。寒浞夺得帝位之后，便大力消灭夏的残余势力。他出兵灭掉了斟灌和斟郡，并杀死了相。当时相的妻子正怀着儿子少康，她从一个墙洞里钻出去逃跑了。她跑回了自己的娘家有仍氏（今山东金乡县境），生下了少康。少康在有仍氏长大成人后，便积蓄力量，努力要恢复夏王朝。后来终于灭掉了寒浞，重新恢复了夏的统治。现在我们吴国远不如过去的寒浞强大，而现在的越国却比过去的少康要强大的多。说不定上天还会使越国重新振兴起来，到那时再想制服它，就很难了。我国介于蛮夷之间，却要保存敌人，以使其强大，用这样的方法来求取霸业，必然是行不通的。”但无论怎么说，被胜利冲昏了头脑的夫差就是听不进去，终于答应了越国的求和。
伍子胥见过夫差出来后对人说：“越国用十年的时间繁衍积聚，用十年的时间对人民进行教育训练，二十年以后，吴国的宫殿恐怕就要变成沼泽了！”
根据吴越两国的媾和条件，勾践应和他的大臣随夫差去吴国，给夫差当奴仆。周敬王二十六年五月，勾践留文种守国，自己带着范蠡等大臣来到了吴国。夫差把他们君臣密闭在宫中，让他们做苦役。勾践君臣知道，在目前这种情况下，只有一切隐忍，逆来顺受，才有可能求得吴王夫差的宽宥和赦免，从而获得一条生路。因此他们表现出毫无怨言，一切恭敬从命的样子。夫差见此情景，果然很高兴。
只有伍子胥时刻为此忧虑。他认为勾践君臣一天不除，隐患就存在一天，而且总有一天会酿成大的祸害。因此，他总想找机会劝说夫差杀了他们，以斩除祸根。这一天，他终于找到一个机会，劝谏夫差说：“从前夏桀囚禁了企图反叛他的商汤而不诛，商纣王囚禁了企图反叛他的周文王而不杀，结果时机一过，天道反复，转福成祸，商汤反而杀了夏桀，周武王反而灭了商纣。今天大王您既然囚禁了越君而又不诛，我以为大王是受他们君臣假象的迷惑太深了，这就很难保将来不遭受夏、商那样的祸患。”这一说，夫差倒似乎有些醒悟了，便下令把越王召来，他要亲自盘问盘问。