公元前６３７年，晋国宫廷内乱，太子申生被杀，他的弟弟重耳跑到楚国。楚成王预见到重耳有可能回国获得王位，因此，从楚晋两国的长远关系着想，楚成王不仅不歧视重耳，反而更加热情地对待他。
一天，楚成王举行宴会，酒席间，他问重耳：“公子，你如果返回晋国主持国政，将用什么方式来报答我呢？”
重耳略加思索，说道：“你们楚国美女侍从多得很，金玉也堆成山，要说报答，吃的用的你们都有，我只想到一种报答方式，就是如果将来晋国和楚国发生战争，那我一定会命令晋军先退避三舍。”（古时一舍为３０里，退避三舍即向后撤退９０里。）
“好，一言为定！”楚成王高兴地说。
后来，重耳在秦国的帮助下返回了晋国，终于夺得了王位，他就是历史上有名的晋文公。
公元前６３２年，晋楚两国在城濮发生了战争。开始时，晋文公为了实现早先许下的诺言，下令军队“退避三舍”以示不愿与楚国交战，而楚将不肯罢休，晋文公便举兵攻击，结果大败楚军。
后来，人们根据这个故事，引出“退避三舍”一语，原指恪守信用，后来用以表述有意回避对方的锋芒，以免发生尖锐冲突。