公元444年，江淹出生於宋州濟陽考城（今河南省商丘市民權縣程莊鎮），故裏位於今民權縣程莊鎮。祖父江耽。父親江康之，南沙令，雅有才思。江淹少時孤貧好學，六歲能詩，十三歲喪父，家境貧寒，曾采薪養母。二十歲左右教宋始安王劉子真讀五經，並壹度在新安王劉子鸞幕下任職，開始了他的政治生涯。
江淹在仕途上早年不甚得誌。泰始二年（466年），江淹轉入建平王劉景素幕。江淹受廣陵令郭彥文案牽連，被誣受賄入獄，在獄中上書陳情獲釋。劉景素密謀叛亂，江淹曾多次諫勸，劉景素不納，貶江淹為建安吳興縣令。江淹的許多代表作品都寫於被貶期間。宋順帝升明元年（477年），齊高帝蕭道成執政，把江淹自吳興召回，並任為尚書駕部郎、驃騎參軍事，大受重用。
尋舉南徐州秀才，對策上第，轉巴陵王國左常侍。景素為荊州，淹從之鎮。少帝即位，多失德。景素專據上流，鹹勸因此舉事。淹每從容諫曰：“流言納禍，二叔所以同亡；抵局銜怨，七國於焉俱斃。殿下不求宗廟之安，而信左右之計，則復見麋鹿霜露棲於姑蘇之臺矣。”景素不納。及鎮京口，淹又為鎮軍參軍事，領南東海郡丞。景素與腹心日夜謀議，淹知禍機將發，乃贈詩十五首以諷焉。
會南東海太守陸澄丁艱，淹自謂郡丞應行郡事，景素用司馬柳世隆。淹固求之，景素大怒，言於選部，黜為建安吳興令。淹在縣三年。升明初，齊帝輔政，聞其才，召為尚書駕部郎、驃騎參軍事。俄而荊州刺史沈攸之作亂，高帝謂淹曰：“天下紛紛若是，君謂何如？”淹對曰：“昔項強而劉弱，袁眾而曹寡，羽號令諸侯，卒受壹劍之辱，紹跨躡四州，終為奔北之虜。此謂‘在德不在鼎’。公何疑哉？”帝曰：“聞此言者多矣，試為慮之。”淹曰：“公雄武有奇略，壹勝也；寬容而仁恕，二勝也；賢能畢力，三勝也；民望所歸，四勝也；奉天子而伐叛逆，五勝也。彼誌銳而器小，壹敗也；有威而無恩，二敗也；士卒解體，三敗也；|紳不懷，四敗也；懸兵數千裏，而無同惡相濟，五敗也。故雖豺狼十萬，而終為我獲焉。”帝笑曰：“君談過矣。”是時軍書表記，皆使淹具草。相國建，補記室參軍事。建元初，又為驃騎豫章王記室，帶東武令，參掌詔冊，並典國史。尋遷中書侍郎。永明初，遷驍騎將軍，掌國史。出為建武將軍、廬陵內史。視事三年，還為驍騎將軍，兼尚書左丞，尋復以本官領國子博士。少帝初，以本官兼禦史中丞。
宋順帝升明初年，蕭道成（後為齊高帝）輔政時，荊州刺史沈攸之忠於宋，舉兵反對蕭道成。蕭道成詢問江淹，江淹向他陳說蕭道成必勝而沈攸之必敗的五條原因。第二年沈攸之果然戰敗自殺身亡，江淹也因此而甚得齊高帝賞識。齊東昏侯永元年間，崔慧景造反，率叛軍圍困京城建康，城內士族官僚紛紛投身於叛軍門下，只有江淹稱病不往。崔慧景很快兵敗，眾皆服江淹有遠見。後來蕭衍帶兵至新林（今江蘇省南京市西南），士族官僚對他並沒有看好，人人安之若素，而江淹卻脫去官服，投奔蕭衍。後蕭衍稱帝，江淹得到重用。
江淹為官清正，不避權貴，直言敢諫。宋後廢帝劉昱即位“多失德”，劉景素又偏聽偏信左右之言，政局岌岌可危。江淹從容直諫，劉景素怒而不納，江淹贈詩十五首以諷諫。江淹任禦史中丞時，彈劾中書令謝F、司徒左長史王繢、護軍長史庾仲遠。也曾奏前益州刺史劉悛、梁州刺史陰智伯有臟物寶貨成千上萬，並拘捕了他們，交朝廷治罪。其他被檢劾論治的違法官員更是不勝枚舉。齊明帝曾當面稱贊江淹：“從宋代以來，不曾有嚴明的禦史中丞，君今天可說近代獨壹無二了。”
蕭道成代宋自立，江淹被任為驃騎豫章王記蕭嶷室帶東武令，遷中書侍郎，齊武帝永明間，任廬陵內史、尚書左丞、國子博士諸職。少帝蕭昭業即位，江淹任禦史中丞。明帝蕭鸞時，又任宣城太守、秘書監諸職。
梁武帝蕭衍代齊後，江淹官至金紫光祿大夫，封醴陵侯。梁天監四年（505年），江淹去世，時年六十二。葬在故裏江集村東北約六公裏處（今民權縣李堂鄉嶽莊村西），梁武帝為他素服舉哀，謚曰憲伯。 《梁書》、《南史》有傳。
軼事典故●夢筆生花
江淹在被權貴貶黜到浦城當縣令時，相傳有壹天，他漫步浦城郊外，歇宿在壹小山上。睡夢中，見神人授他壹支閃著五彩的神筆，自此文思如湧，成了壹代文章魁首，當時人稱為“夢筆生花”。
●江郎才盡
中年以後，江淹官運亨通，官運的高峰卻造就了他創作上的低潮，富貴安逸的環境，使他才思減退，到齊武帝永明後期，他就很少有傳世之作，故有“江郎才盡”之說。據《詩品》，傳說他有壹天晚上夢見壹個人，自稱是郭璞（晉代文學家），他對江淹說道：“我有壹支五色彩筆留在妳處已多年，請歸還給我吧！”江淹從懷中取出，還給了那人。其後他寫的文章就日見失色。時人謂之才盡，於是便有“江郎才盡”壹說。《南史》中除了記載以上故事外，還記載了壹個類似的“索錦”的故事，發生在張協與江淹之間。
●文通殘錦
江淹年輕時就很有才華。傳說他晚年夢見晉張協對他說：“前以壹匹錦相寄，今可見還。”江淹把幾尺殘錦奉還，張大怒說：“那得割截都盡。”江淹的文才從此大不如前。
主要成就江淹突出的文學成就表現在他的辭賦方面，他是南朝辭賦大家，與鮑照並稱。南朝辭賦發展到“江、鮑”，達到了壹個高峰。江淹的《恨賦》、《別賦》與鮑照的《蕪城賦》、《舞鶴賦》可說是南朝辭賦的佳作。
江淹又是南朝駢文大家，是南朝駢文中最有成就的作家之壹，與鮑照、劉峻、徐陵齊名。最為知名的當數他在獄中寫給建平王劉景素的《詣建平王書》，文章辭氣激揚，不卑不亢，真情實感流註於字裏行間。劉景素看了江淹的這篇上書後，深受感動，立即釋放了他。另外，江淹的《報袁叔明書》、《與交友論隱書》等，均為當時名篇。 江淹的詩作成就雖不及他的辭賦和駢文，但也不乏優秀之作，其特點是意趣深遠，在齊梁諸家中尤為突出。善於擬古是江淹詩歌方面的突出特色，面貌酷似，幾可亂真。
南朝文學批評家鐘嶸在《詩品》中就說江淹“善於摹擬”。江淹努力學習古人的作品，確使他擺脫了壹些綺麗之風，寫出了不少在流麗中帶有峭拔蒼勁之氣的詩篇。在江淹詩歌中，有壹部分為樂府歌辭。江淹的樂府歌辭在南朝中雖不能技壓群雄，也算得是上乘之作。
史書記載《梁書卷第十四 列傳第八 江淹 》
人物評價《梁書 卷第十四 列傳第八 江淹 》：淹少以文章顯，晚節才思微退，時人皆謂之才盡。
鍾嶸《詩品》：齊光祿江淹，文通詩體總雜，善於摹擬，筋力於王微，成就於謝I。初，淹罷宣城郡，遂宿冶亭，夢壹美丈夫，自稱郭璞，謂淹曰：“我有筆在卿處多年矣，可以見還。”淹探懷中，得五色筆以授之。爾後為詩，不復成語，故世傳江淹才盡。
個人作品江淹的作品，據《自序傳》說有十卷，這是江淹在齊代時的記錄。 據《梁書·江淹傳》的記載，“凡所著述百余篇，自撰為前後集”，可知他後來又有新的作品，自己輯錄為前後兩集。《隋書·經籍誌》記載：“《江淹集》九卷，《江淹後集》十卷。”《舊唐書》記載是“《江淹前集》十卷，《江淹後集》十卷”。唐朝之後，大多記載為十卷。明人胡之驥著有《江文通集匯註》。據《梁書》本傳，他還著有《齊史·十誌》，今佚。
雜體詩三十首
小序
古離別
李都尉陵從軍
班婕妤詠扇
魏文帝曹丕遊宴
陳思王曹植贈友
劉文學楨感懷
王侍中粲懷德
嵇中散康言誌
阮步兵籍詠懷
張司空華離情
潘黃門嶽述哀
陸平原機a宦
左記室思詠史
張黃門協苦雨
劉太尉琨傷亂
盧郎中諶感交
郭弘農璞遊仙
孫廷尉綽雜述
許征君詢自敘
殷東陽仲文興矚
謝仆射混遊覽
陶征君潛田居
謝臨川靈運遊山
顏特進延之侍宴
謝法曹惠連贈別
王征君微養疾
袁太尉淑從駕
謝光祿莊郊遊
鮑參軍昭戎行
休上人怨別
學魏文帝詩
效阮公詩十五首
清思詩五首
傷內弟劉常侍詩
悼室人詩十首
騷體
應謝主簿騷體
劉仆射東山集學騷
山中楚辭六首
家族成員兒子：江o
後世紀念江淹墓位於商丘市民權縣程莊鎮嶽莊村。墓冢高1.5米，周長10米，墓前有石碑壹通，為明成化年間所立，上書：金紫光祿大夫醴陵侯江文通之墓。陵園內有壹磚坊，兩邊各有石碑，記載江淹生平及江氏後代重修碑記和名錄。陵園樹木蔥蘢，鳥語花香，幽靜宜人，為民權縣八景之壹。