此典出自《左传·僖公二十三年》：“晋、楚治兵，遇于中原，其辟君三舍。”
《左传》中的这段文字意思是说，晋国和楚国交战于中原地区，晋军主动退师回避九十里。古汉语中的“辟”同我们今天的“避”，“舍”是春秋时期表示军队行军作战距离的计量单位。一舍相当于三十里。故事呢，要从重耳亡楚开始说起。
春秋时期，由于权位之争，晋献公的两个儿子，申生被杀，重耳为躲避陷害，被迫远走他国。在楚国避难时，楚成王以礼相待，不仅陪着重耳打猎聊天，而且吃、住均享受王侯的待遇，有国不能回的重耳很是感激。在一次招待重耳的宴会上，酒过数巡，楚成王漫不经心地对重耳说：“公子将来如果回到晋国，有朝一日做了国君，怎样报答我呢？”重耳说：“各种宝物你都有，我真不知道用什么东西报答你。”楚成王笑着说：“即使这样，也一定要有所报答呀。”重耳回答：“如果仰仗你的威力，我能够复国，愿与楚国交好，使百姓安居乐业，要是万一发生战争，战场上我愿退避三舍以报答你的大恩。”
公元前636年，晋国内部发生动乱，重耳在秦国穆公的支持下，由秦国的军队护送返回晋国。强大的秦军一连攻克晋国几座城池，朝野震动。人心所向，重耳终于结束了十九年的流亡生活，坐上了国君的位置，称为晋文公。以后，由于采取了一系列有利发展的内外政策，晋国逐渐强大起来。公元前633年，为解救邻国，晋楚两国兵戎相见。
两军刚扎下营垒，晋文公就急于与楚军交战。大臣狐偃提醒他说：“主公当年曾对楚王说过，如果在战场上相见，晋军退兵三舍。现在就与楚军交战，是言而无信。主公不失信于普通人，更不能失信于楚王。”晋文公认为狐偃言之有理，就下令三军退兵九十里，来到城濮，也就是今天的山东鄄城西南。楚军以为晋军怯阵，跟随着追上来挑战。其实，晋军是把楚军引入了对自己有利的战场。
战争开始时，楚军占优势。晋军退却九十里，集中优势兵力，先选择楚军力量薄弱的右翼，给以沉重打击。同时，将主力伪装退却，诱使楚军左翼追击，然后两面夹击，又击溃了楚军的左翼。楚军终于大败而归。主将成得臣自知无颜回国见父老乡亲，但心存侥幸，派儿子成大心代己向楚成王请求免予死罪，楚王不允，成得臣不得不拔剑自刎。
后来，人们就常用“退避三舍”这句成语来表示暂时的退让和回避，避免冲突，以至最终化被动为主动这样一种状态。
毛泽东在《论持久战》中，说到主观指导的正确与否，影响到优势、劣势和主动、被动的变化时就以晋、楚城濮之战为例来说明强大之军打败仗，弱小之军打胜仗的情况。