晋武帝咸宁三年，皇帝又封羊祜为南城侯，羊祜坚辞不受，小学六年级作文《作文 谦卑处事，笑到最后》。他每次晋升都要坚辞，态度恳切，因此名声远播，朝野人士都对他推崇备至，以至于认为他应居宰相的高位。晋武帝当时正想兼并东吴，要倚仗羊祜承担平定江南的大任，所以此时被搁置下来。
羊祜历职二朝，掌握机要大权，但他本人对于权势却从不钻营。他筹划的良计妙策和议论的稿子，过后都要焚烧，所以世人不知道其中的内容。凡是他所推荐而晋升的人，他从不张扬，被推荐者也不知道是羊祜荐举的。有人认为羊祜过于缜密了，他说：“这是什么话啊！古人的训诫：人朝与君王促膝谈心，出朝则佯称不知—————这我还恐怕做不到呢！不能举贤荐能，有愧于知人之难啊！况且在朝廷签署任命，官员却到私门拜谢，这是我不愿意见到的。”
羊祜平时清廉俭朴，衣被都用素布，得到的俸禄全拿来周济族人，或者赏赐给军士，家无余财。临终留下遗言，不让家人把南城侯印放进棺柩。他的外甥齐王司马攸上表陈述羊祜不愿按侯爵级殓葬的想法时，晋武帝便下诏说：“羊祜一向谦让，志不可夺。身虽死，谦让的美德却仍然存在，遗操更加感人。这就是古代的伯夷、叔齐之所以被称为贤人，季子之所以保全名节的原因啊！现在我允许恢复原来的封爵，用以表彰他的高尚美德。”
羊祜的一生是成功的，上至一国之主，下至黎民百姓，都对他表示敬佩，属下参佐们也赞扬他德高而卑谦，位尊而谦恭。
后记：
人生悟语：谦卑是一种智慧，是为人处事的黄金法则。懂得谦卑的人，必将得到人们的尊重，受到世人的敬仰。