刘景素为荆州郡守，江淹随行任镇将。少帝即位后，朝政混乱，刘景素掌握大权，大家都劝他趁机起兵反对朝廷。江淹总是劝谏说：“谣言招致灾祸，这是管 叔、蔡叔一同灭亡的原因；抵触招来怨恨，七国诸侯因此被杀。您不求国家的安危，听信左右的计策，就又会看到麋鹿霜露出现在姑苏台上。。刘景素不采纳他的建 议。
少帝初年，在本官职位上兼任御史中丞。当时明帝任丞相，对江淹说：“你过去在尚书府中，不是公事不随便乱做，为官宽大严厉能调和；现在任南司，一定 能使百官震动肃然。。江淹回答说：“现在的事，可以说据官职而为，更担心才小志短，不能使丞相满意啊。。于是弹劾中书令谢朏、司徒长史王绩、护军长史庾宏 远，全都以长期有病不能管理帝王陵墓的罪名而弹劾；又奏告前益州刺史刘悛、梁州刺史阴智伯私藏赃物上万，立即逮捕交给廷尉定罪。临海太守沈昭略、永嘉太守 庾昙隆，还有不少郡二千石官员及其大县的长官，多数被弹劾整治，内廷外府一片肃然。明帝对江淹说：“自刘宋以来，不再有严格清明的中丞，你今日可算得上仅 有的一个。。
永元年间，崔惠景举兵围攻京城，官吏们都去投靠他，只有江淹称病不往。等到叛乱被平定，大家都信服江淹的先见之明。东昏末年，义军到新林，江淹穿着百姓的衣服来投靠，梁高祖提任他为冠军将军，仍任秘书监。
天监元年，为散骑常侍、左卫将军，封为临沮县开国伯，食邑四百户。江淹于是对子弟说：“我本来是一个无实权的官，不想富贵，如今忝居这样的官位，实 在有愧。平生总是说知足之事，也已经足够了。人生只要快乐，何必求富呢？我功成名就，正想回到家里过平常人的日子。。当年，因病任金紫光禄大夫，改封为醴 陵侯。四年江淹去世，终年六十二岁。（梁）高祖穿素服致哀，赐钱三万布五十匹。赠谥号为宪伯。 江淹年少时因为文章而声名远扬（以文才著称），晚年文思减退，当时人都说他才思枯竭了。他的著作总共有一百多篇，自行结为前后集，与《齐史》十志，一并在当世流行。