陶渊明再次出仕是在他近四十岁时，《荣木》一诗中说到：“先师遗训，云岂云坠!四十无闻，斯不足谓。脂我名车，策我名骥，千里虽遥，孰不敢至!”时至刘裕起兵讨伐桓玄，掌握了国家大权，给晋王朝带来一线希望。于是陶渊明又出任镇军将军刘裕的参军。第二年，他便改任建威将军江州刺史刘敬宣的参军。八月又请求改任彭泽县令，在官八十馀日，十一月就辞官归隐了。这次辞去县令的直接原因，据《宋书》本传记载：“郡遣督邮至，县吏白：‘应束带见之。’潜叹曰：‘我不能为五斗米折腰向乡里小人!’即日解印绶去职。”
陶渊明一生虽几次出仕，但他与世俗是那样格格不入，在混迹于官场时，总充满悔恨的心情，而他所作《归去来兮辞》：“归去来兮，请息交以绝游，世与我而相违，复驾言兮焉求!”与官场永诀，以躬耕终老。归田后，陶渊明的性情与田园自然的契合，使其所作诗篇大放溢彩。他作《归园田居五首》，描绘出闲适自得清新自然的田园生活画卷。其四言诗杰作《归鸟》，借鸟儿眷恋林木，倦飞知还，道出诗人归隐真意。《饮酒二十首》则表现诗人对现实和人生的深刻思考体现诗人淳真自然的艺术风格。第十九首：“拂衣归田里……亭亭复一纪”。“一纪”是十二年，此时诗人已归田十二年。然而，自辞彭泽县令归田以来，陶渊明虽一直过着隐居生活，但他并不能忘怀一切，《杂诗》其二有云：“日月掷人去，有志不获骋。念此怀悲凄，终晓不能静。”光阴如梭，壮志难酬的悲哀，深沉万分。晚年的陶渊明还是关注社会与政治的，公元417年，刘裕北伐收复长安，灭后秦，业已五十三岁的陶渊明写下《赠羊长史》一诗云：“圣贤留余迹，事事在中都。岂忘游心目，关河不可逾。”抒发了对收复中原与三秦的欣慰之情。五十六岁所作《读史述徽章》和五十八岁作《读山海经》组诗，都寄托了豪情壮志。而五十九岁所作《咏二疏》、《咏三良》、《咏荆轲》，名为咏史，实为述怀，均表明晚年的陶渊明壮志未消，理想犹存。刘裕代晋，现实的黑暗政治使他不满，而他又无力改变，于是他幻想出理想国——“桃花源”。陶渊明从二十九岁出仕到六十三岁去世，虽然贯穿着仕隐的矛盾，但其壮志从未泯灭。