劉墉出身於山東諸城劉氏家族，這個家族是當時的名門望族，通過科舉走上仕途的人很多。劉墉的曾祖父劉必顯為順治年間進士，祖父劉棨（qǐ）是康熙朝有名的清官，父親劉統勛更是壹代名臣，官至東閣大學士兼軍機大臣，為官清廉果敢，乾隆帝說他“遇事既神敏，秉性復剛勁，得古大臣風，終身不失正”。
從乾隆二十壹年（1756）開始，劉墉被外放做地方官，此後20余年的絕大部分時間裏，他主要做地方官，由學政、知府，直至壹方面的督撫大員。在做地方官期間，他基本上還是秉承了乃父劉統勛的正直幹練、雷厲風行的行事風格。對科場積弊、官場惡習進行了力所能及的整頓，為百姓做了不少實事。《諸城縣誌》稱贊他：“砥礪風節，正身率屬，自為學政知府時，即謝絕饋賄，壹介不取，遇事敢為，無所顧忌，所至官吏望風畏之。”同時，他也不遺余力地貫徹乾隆皇帝的意旨，查禁書，興文字獄，捉拿會黨，積極推行文化高壓政策。
乾隆三十四年（1769），51歲的劉墉獲授江寧知府。從乾隆十六年（1751）中進士時算起，到此時劉墉浮沈宦海已經整整18年。說來，劉墉的仕途並不平坦，早在做翰林院編修時，其父劉統勛因事獲罪，劉墉遭株連被革職，與諸兄弟壹起下獄；後外放劉墉作安徽和江蘇學政，因表現卓異得到乾隆皇帝賞識，擢山西太原府知府。
曾於乾隆二十二年（1757）到山西查辦布政使蔣洲侵帑案，乾隆二十四年（1759）到山西查辦過將軍保德侵帑案，聲譽頗佳。劉墉同樣是不負重托，到任後不幾天便將前任遺留下的疑難案件審理壹清，受到官民的壹致稱贊。正當劉墉以政績遷冀寧道時，前任山西陽曲縣知縣段成功虧空案發，劉墉以失察罪差壹點丟了性命，後來朝廷加恩命他赴軍臺效力贖罪長達壹年，回北京後又在壹個叫作“修書處”的閑散機構裏蹉跎兩年。由此可見，這段時間裏，劉墉的官運並不怎麽“亨通”。
劉墉能夠在重罪之後出任江寧知府，說來還是沾了父親的光。此時劉統勛聖眷正隆，先後以大學士之職兼管兵部和刑部，被乾隆皇帝倚為股肱之臣。因此，在乾隆三十三年劉統勛七十壽辰之時，乾隆皇帝不僅親書匾額誌賀，還加恩劉墉以知府候補。第二年，劉墉獲授江寧府知府。
此後，劉墉歷遷江西、陜西、江蘇，至乾隆四十五年（1780），劉墉被授湖南巡撫，其官職全稱是巡撫湖南等處地方提督軍務，節制各鎮，兼理糧餉，駐長沙，兼理軍民事務，成為名副其實的封疆大吏。
在湖南任期內，劉墉繼續以前的作風，盤查倉貯，勘修城垣，整頓吏治，鎮壓反叛。在不到兩年的時間裏，劉墉的政績可謂斐然。《清史列傳》上面說他：“在任年余，盤查倉庫，勘修城垣，革除坐省家人陋習，撫恤武岡等州縣災民，至籌辦倉谷，開采峒硝，俱察例奏請，奉旨允行。”將其所辦大事都列舉出來了。《湖南通誌》也贊揚劉墉撫湘期間，所行諸事“民以為便”。
乾隆四十七年，劉墉奉調入京出任左都禦史，命在南書房行走。當時和珅炙手可熱，劉墉遂“委蛇其間，惟以滑稽悅容其間”。這又表現了劉墉為人和為官的另壹面。劉墉是有社會責任感的士大夫，同時也是官場中人，他也要按照官場的規則做事，包括應付上級和同僚的圓滑趨避之術。大體說來，他任地方官、能夠獨當壹面的時期，主要表現了清勤剛正的壹面，“壹時有閻羅包老之稱”；入京以後，正好碰上和珅專寵於乾隆，擅弄威權，排斥異己，劉墉只好以靜默自守，以滑稽模棱取容。
劉墉剛入京的幾年仕途還算順利，做到協辦大學士、吏部尚書、上書房總師傅，其間還處理了壹件棘手的案子。這個案子的當事人國泰是山東巡撫，其父四川總督文綬是劉墉的老上級，更關鍵的是，國泰的後臺就是乾隆皇帝的紅人和珅。
乾隆四十七年四月，禦史錢灃參劾山東巡撫國泰專橫，以向皇上納貢的名義大肆搜刮錢財，下屬歷城、益都等幾十個州縣倉庫虧空嚴重。乾隆皇帝對此事十分重視，責成和珅、劉墉等同錢灃壹起前往核查。
此後的幾年裏，劉墉似乎總是在犯錯誤，受指責，乾隆對他顯然並不滿意。乾隆五十二年初，劉墉因為漏泄他和乾隆帝關於嵇璜、曹文埴的談話內容，不僅受到申飭，而且失去了本應獲授的大學士壹職。
乾隆五十二年八月，乾隆委托劉墉主持祭拜文廟。因他沒有行規定的壹揖之禮受到太常寺卿德保的參劾。
乾隆五十三年夏天，劉墉兼理國子監，發生鄉試預選考試中諸生饋送堂官的事，被禦史祝德麟彈劾，結果劉墉受到處分。乾隆五十四年二月底至三月初，負責皇子教育的上書房諸師傅因為連天陰雨沒有入值，乾隆皇帝得知這個情況十分惱怒，時任協辦大學士、吏部尚書、上書房總師傅的劉墉被責處得尤其嚴厲，降為侍郎銜，不再兼職南書房。乾隆皇帝還專門為此下了壹道上諭，大意是說因為劉墉是大學士劉統勛之子，念及統勛為朝廷效力多年，才對劉墉加恩擢用。而劉墉在府道任上還算勤勉，及至出任學政就不再認真辦事，在湖南巡撫任上官聲也平常。入京為尚書，辦事情更是壹味模棱兩可。我曲意優容，未加譴責，原以為他會感激聖恩，勤勉辦事，不想竟然發生上書房諸師傅曠工七日之久而劉墉置若罔聞之事。並說劉墉這樣事事不能盡職，於國則為不忠，於父則為不孝，其過失甚大，實在不能寬恕。應當說，措辭相當嚴厲。
乾隆五十八年，劉墉為當年會試主考官。因為安排失當，閱卷草率，違制和不合格的卷子很多。按規定，劉墉等至少要罰俸10余年。乾隆皇帝雖然作了寬大處理，劉墉還是被“嚴行申飭。
嘉慶元年，因為大學士壹職空缺多時，破格增補戶部尚書董誥為大學士，而資歷更深的劉墉被排斥在外。而且在上諭中又壹次批評劉墉“向來不肯實心任事”，並舉例說，皇帝曾向劉墉詢問新選知府戴世儀可否勝任，結果劉墉對以“尚可”。而戴本來十分庸劣，斷難勝任。可見劉墉平日裏對於銓選用人全未留心，只是以模棱兩可之詞敷衍塞責。要他“捫心內省，益加愧勵”。
嘉慶二年，授劉墉體仁閣大學士，但仍舊指責他“向來不肯實心任事，行走頗懶”，並說“茲以無人，擢升此任”，可見其評價。當然，以上兩條嘉慶初年的上諭，代表的仍然是乾隆帝的意見。
劉墉像是變了壹個人，做人的棱角看不到了，做事的勤謹也看不到了，此期間的劉墉更多表現出的是滑稽和圓滑世故。清人筆記記載，壹次在軍機處吃飯，有同僚提起唐宋時宰相吃堂餐的故事，劉墉馬上接口說：“但使下民無殿糞，何妨宰相有堂餐？”壹座為之噴飯。
嘉慶九年十二月二十五日，劉墉於北京驢市胡同家中逝世，享年86歲。去世的當天，他還曾到南書房當值，晚上還開宴會招待客人，“至晚端坐而逝”。《嘯亭雜錄》記載，劉墉死時，說他“鼻註下垂壹寸有余”，暗合佛語中的善於解脫之意。不管怎樣，劉墉可算得上是無疾而終，壽終正寢，功德圓滿。