古时候，中山国（今河北省定县）国君昏庸无道，经常残害百姓，魏文侯决定派兵讨伐。派谁担任大将军呢？这可是一件大事。大臣翟璜说：“我推荐一人，姓乐名羊，是本国人，文武全才，可以当大将！”魏文侯说：“你有什么根据说他可以当大将呢？”
翟璜说：“乐羊有一次拾到一块金子回家，他妻子说，此金来历不明，你拾来辱没了自己的清白。乐羊觉得很对，把金子放回原处，就到各国去求学。一年之后回来，他的妻子正在织布，问他学成没有？他说还没学成，妻子便用刀割断织布机上的丝线，乐羊领悟到不能半途而废的道理，就又去求学，七年后才返回。现在乐羊在本国闲居，是不愿意做小官，而期望做大事业。”
魏文侯命令翟璜去请乐羊，有人阻拦说：“乐羊的大儿子乐舒，在中山国当大官，怎么能让他担任大将？”
翟璜说：“乐舒曾奉中山国君的命令，请乐羊去做官，他不但不去，还劝儿子离开中山国，不然的话，就会与昏庸的国君一道灭亡。”
魏文侯派翟璜把乐羊请来，问：“我想请你统帅大军去讨伐中山国，可是你的儿子在那边，怎么办呢？”
乐羊回答：“国事、家事要分开，大丈夫为国立功不能徇私情。我要是不能攻下中山国，情愿受军法处置。”
魏文侯很高兴，说：“你这样自信，我怎么能不信任你呢！”
公元前408年，魏文侯拜乐羊为大将、西门豹为副将，率领五万人马浩浩荡荡地去攻打中山国。中山国派出大将鼓须迎战，两军交战一个多月不分胜负。
当时，正值中秋佳节。晚上，乐羊巡营看到敌方大寨连营驻扎在山坡上，营内传出饮酒划拳作乐声。他心生一计，当夜命令西门豹带人潜入敌军营寨，放起大火，随后率领大军全力攻打，大获全胜，很快就包围了中山国都。
中山国大夫公孙焦向国君姬窟说：“乐羊是乐舒的父亲，您可以派乐舒到城上劝说退兵。”
乐舒深知其父，不肯劝说，被威逼无法，只好登城大呼，请父亲相见。乐羊一见儿子，高声骂道：“你这个只贪图富贵、不知进退的逆子，还不赶快劝昏君早点投降！”
乐舒说：“投降不投降由国君作主，我只求父亲暂时不要攻城，让我们商量一下。”
乐羊说：“我给你们一个月的时间商量，是看在我们父子情分上，快去劝昏君早早投降。”乐羊果然命令部下只准围困，不准攻城。
姬窟以为乐羊有爱子之心，不会攻城，只是拖延时间，不作商议。一个月后，乐羊派人讨信，姬窟又派乐舒要求宽延一个月，乐羊答应了。如此三次，三个月过去了，乐羊还不攻城。
副将西门豹沉不住气了，对乐羊说：“大将军不是早就打算收复中山国，现在为什么迟迟不攻？”
乐羊说：“我们攻城太急，会伤害老百姓。我再三宽延，不是为了顾全父子之情，而是为了收民心，让老百姓知道他们三番两次失信。”
中山国前线战况传到魏国，朝廷百官怨声鼎沸。魏文侯左右亲信，看到乐羊是个平民，骤然被重用，本来就愤愤不平，这时纷纷上书，想把他除掉。有的说乐羊里通外国，有的说他徇私情，五万大军要被他葬送……只有翟璜告诉魏文侯说：“这一定是乐羊的计策，您不要生疑心。”
魏文侯不断派人去慰劳前线的将士，还告诉乐羊，正在为他盖房子，准备他得胜回朝时送给他住。
又过了一个月，乐羊见中山国君还不投降，就命令攻城。姬窟连忙命令把乐舒绑在长竹竿上，挑出城楼，威胁说：“如果再攻城就杀死乐舒！”乐舒也高呼：“父亲救命！”
乐羊骂道：“你这个不肖之子，不能出奇策退兵，又不能劝君王投降，像个吃奶的孩子号叫求饶，真没出息！”说罢，拿起弓箭准备射乐舒。
姬窟命令把乐舒拉上城楼，听从公孙焦的主意，把他杀了，煮成肉羹，派使者送给乐羊，说：“你儿子不能退兵，已经杀了煮之，你再命令攻城，就要杀他的妻子和儿子。”
乐羊镇定自若，说：“我儿子为昏庸的国君效力，是自己找死！承蒙贵国送来肉羹，我表示感谢，我也准备了大锅，等着煮你们的昏君。”然后，下令攻城。
姬窟见攻城急迫，怕城破被活捉受辱，就自杀了，大夫公孙焦开城投降。乐羊安抚了百姓，处罚贪官污吏。留五千兵马，派西门豹守城，然后载着大量财宝，班师回魏。
魏文侯亲自出城迎接，又大摆筵席为乐羊庆功。在酒宴上，文武百官都向乐羊祝贺，乐羊也恃功流露出傲慢的神气。宴会完毕，魏文侯命令左右抬出两口封得很严的箱子赏给乐羊。乐羊很高兴，让手下人小心抬回家中。
乐羊回到家中，亲自揭开封条，箱里全是大臣们弹劾他的奏章。乐羊一边看一边流泪，恶毒的诽谤、危言耸听的中伤，使他浑身打颤、冷汗直流，他仰天长叹：“想不到朝中有这么多人背后毁我，要不是国君用人不疑，我哪能有今天！”
第二天，乐羊上朝谢恩。魏文侯要封他，他坚决推辞说：“攻克中山国，那是大王的英明，我没有什么功劳。”
魏文侯说：“我知道只有你能担当这个重任，才用你不疑。你已经为国效力，辛苦了，我封你为灵寿君。”
乐羊谢恩，就动身到封地灵寿去了。