西周的周成王时代，相传有两个著名的贤人，一个是周公，另一个是召公a那时，成王年纪还小，周公、召公两人分掌一切国家大事。他们时常巡行各地，宣扬朝廷的徳政。
有一次，召公巡行南方，大约在汉水上游的一个乡村里，访问了老百姓的生活，还为他们解决了一些问题。老百姓非常感动，曾经祖孙相传，怀念了许多年。周朝后来的几代“天子”，越来越糟，恃别是西周末年的周幽王，简直如同商纣王一样，荒淫残暴，人们更加怀念祖辈传说的召公那样的贤人。召公当年南巡时，曾在一株甘棠树下休息过，这株甘棠树便被当地百姓恭敬地保护着，还流传着这样一首民歌：
蔌芾甘棠，勿剪勿伐！召伯所茇。
蔽芾甘裳，勿剪勿致！召伯所憩。
蔽芾甘棠，勿剪勿拔！召伯所舍。
歌词大意是：可爱的甘棠树，不要砍伐它！召公在这露宿过。可爱的甘棠树，不要伤害它！召公在这里休息过。可爱的甘棠树，不要攀折它！召公在这里暂住过。
这就是所谓的甘棠遗爱的故事。