长平之战，由于赵括纸上谈兵致使四十万大军被活埋，从此，赵国一蹶不振。过了两年，秦军又向赵国发起进攻，占领了很多地方，连赵国国都邯郸也给包围了。形势十分危急，赵国的国君孝成王见国都被围，又急又怕，就忙着把平原君找来想对策。
平原君是“战国四公子”之一。他叫赵胜，是赵惠文王的弟弟，赵孝成王的叔叔。和齐国的孟尝君一样，他也喜欢收养门客，靠着门客给他出谋划策，在当时有很大名声。平原君见了赵王说：“现在国都被围，形势危急，光靠咱们赵国自己的力量恐怕难以保住国都，只好向楚、魏求救。魏国和我们关系还可以，而且我和魏公子信陵君交情很深，我写封信去，估计会派救兵来。只是楚国离我们较远，楚王又害怕秦国，不一定会答应出兵。但楚国是大国，举足轻重，必须争取它的帮助，我打算亲自到楚国去一趟，说服楚王派兵，您看如何？”赵王一听非常高兴，就点头同意了。
平原君回来把这件事同门客说了，决定在门客中挑选二十个文武双全的人跟他一起到楚国去说服楚王出兵救赵。平原君挑来挑去，只选出了十九个人，别的人不是没有口才，就是武艺太差，平原君感慨万分，说：“唉，花了几十年，养了这么多门客，如今连二十个管用的人也挑不出来，全才实在太少了！”
这时从后面角落里传来一个声音：“公子，您看我能不能凑个数啊？”平原君并不认识说话的人，就问：“先生尊姓大名？”回答说：“姓毛名遂。”平原君想了想，好像不记得有这么一个门客。毛遂接着说他已经给平原君当了三年门客了。平原君不由得冷笑着说：“我听说有才能的人，不管到什么地方，他的才能就像锥子放在口袋里一样，锥尖马上就会扎破口袋露出头来。如今先生在我这待了三年，我不知道您，看来是没什么本事，跟我去又有什么用？”众门客都嘲讽地笑起来。毛遂并不介意，从容地说：“问题是公子您一直没有把我放在口袋里，要不然我的才能早已像锥子一样全部显示出来了，岂止是只露个尖呢？”平原君见他机敏过人，就同意他加入了去楚国的队伍。到了晚上，平原君和门客们化装悄悄溜出城外直奔楚都去了。
毛遂像平原君一行来到楚都，第二天一早就去拜见楚王。平原君让毛遂等人在殿外等候，他自己进去先和楚王谈判，可谈来谈去，一直到中午，楚王仍然不答应派兵援赵，在殿外等候的毛遂按捺不住，大步流星地冲进殿去。
楚王一见闯来个外人，很是恼火，就呵问他是何人，平原君说：“这是我的门客毛遂。”楚王一听，更为恼火，斥责道：“我跟你主人议事，你来干什么，赶快给我退下去！”毛遂不但不后退，反而手按长剑，走到楚王跟前，说：“合纵抗秦是天下大事，大家都可以议论，大王凭什么不许我说话，还赶我出去？告诉您，如果我想的话，随时都能见到您的血！”楚王一听，吓得胆战心惊，连忙赔着笑脸请毛遂说话。毛遂于是侃侃地说道：“贵国拥有方圆五百里土地，兵士上百万，具有成就霸业的优越条件。可是，秦国却多次欺负你们，这种奇耻大辱，连我们赵国都替您感到羞耻，你们却装着看不见，今天我的主人屈驾前来跟大王商议合纵抗秦之事，不只是为我们自己，也是为了贵国，试想如果我们赵国被秦国灭了，你们楚国难道能逃脱同样的命运吗？”一席话说得楚王连连点头称是，答应立即派楚军去赵国解邯郸之围。
回国后，平原君歉意地对毛遂说：“先生这次去楚国，凭三寸之舌搬来了救兵。先生的才能远不是锥子的锋芒所能比的，过去是我有眼无珠，没有看出来。”从此平原君把毛遂奉为上等门客。