新朝末年，岑彭入仕，署理棘陽縣（今河南省新野縣）長。公元22年（地皇三年），劉縯起兵，攻克棘陽，岑彭帶著家屬投奔前隊大夫（即南陽太守）甄阜。甄阜卻惱恨他不能固守城池，將他母親妻子扣押，岑彭只得帶著手下賓客與漢軍交戰。
公元23年（更始元年）正月，甄阜被殺。岑彭逃到宛城，與前隊貳（官名）嚴說壹同堅守城池。劉縯圍城數月，城中糧食用盡，甚至出現人食人之事。五月，岑彭只好獻城投降。諸將都要求殺死岑彭，被劉縯阻攔。劉玄於是封岑彭為歸德侯，隸屬於劉縯麾下。
劉縯遇害後，岑彭成為大司馬朱鮪的部屬，擔任校尉。不久，岑彭隨朱鮪平定淮陽郡，被推薦為淮陽都尉，又攻破反叛的淮陽守將徭偉，因功升任潁川太守。恰逢劉茂攻占潁川，岑彭無法就任，只好帶領部屬依附河內太守韓歆。 公元24年（更始二年），劉秀巡行至河內。韓歆不聽岑彭勸阻打算守城抵拒，後見形勢危迫，只得投降。劉秀得知韓歆曾想抵抗，欲將其斬殺，又召見岑彭。岑彭分析當前局勢：“今赤眉入關，更始危殆，權臣放縱，矯稱詔制，道路阻塞，四方蜂起，群雄競逐，百姓無所歸命。竊聞大王平河北，開王業，此誠皇天祐漢，士人之福也。彭幸蒙司徒公所見全濟，未有報德，旋被禍難，永恨於心。今復遭遇，願出身自效。”表示願意歸順劉秀，又替韓歆求情。劉秀這才赦免韓歆。
岑彭歸順後，前往淇園勸降大將軍呂植。劉秀任命岑彭為刺奸大將軍，讓他協助吳漢除掉尚書令謝躬，並督察各營。此後，劉秀把平時拿的符節授予岑彭，讓他隨軍平定河北。 公元25年（建武元年）六月，劉秀稱帝，岑彭被封為廷尉、歸德侯，行大將軍事。七月，岑彭與吳漢、王梁等十壹員將領圍攻洛陽朱鮪。在朱鮪的堅守下，漢軍數月不能破城。
同年九月，劉秀命岑彭勸降朱鮪（岑彭曾任朱鮪的校尉）。岑彭勸說道：“我以前受妳的恩惠，常想報答。如今更始敗亡，皇帝（指劉秀）百姓歸心，您堅守城池又有什麽意義呢？”朱鮪則答道：“我曾參與殺害大司徒（劉縯），又勸說更始不要派出蕭王（劉秀），有罪不敢歸降。”劉秀得知後，表示不會加害朱鮪，並對黃河發誓。岑彭將劉秀的話傳到，朱鮪從城上垂下繩索，要岑彭爬上來。岑彭毫不猶豫，朱鮪見他誠信，應允投降。五日後，朱鮪將自己反綁起來，和岑彭壹起去見劉秀。劉秀解其束縛，好言撫慰，並讓岑彭把他連夜送回洛陽。次日，朱鮪率全城出降，被任命為平狄將軍，扶溝侯。 從平鄧奉
公元26年（建武二年），岑彭進軍荊州，攻克犨、葉等十余城。此時，南方局勢混亂。秦豐、董欣、許邯各自起事，更始諸將也各自擁兵占據南陽諸城。劉秀派吳漢前往征伐，結果吳漢治軍不嚴，部下多有侵擾掠奪之舉，逼反了破虜將軍鄧奉。鄧奉擊破吳漢，占據淯陽，並聯合秦豐等勢力。同年秋，岑彭逼降許邯，升任征南大將軍，又與賈復、耿弇等人討伐鄧奉，結果數月不能破敵。
公元27年（建武三年）四月，劉秀親征鄧奉，在葉（地名）遭到董欣部將的截殺。岑彭前來相救，保護劉秀到達堵陽。鄧奉逃往淯陽，董欣投降。岑彭於是隨劉秀追擊鄧奉，壹直追到小長安（南陽南），鄧奉兵敗請降。劉秀本打算赦免鄧奉，後在岑彭與耿弇的勸說下將其斬殺。
圍攻秦豐
五月，劉秀回師，岑彭與傅俊、臧宮等人南擊秦豐，攻克黃郵。秦豐和在鄧（地名）堅守，岑彭數月無法破城。劉秀責備岑彭，岑彭連夜集合兵馬，揚言要“明日西擊山都”，卻暗中渡過沔水，在阿頭山大破秦豐部將張揚。然後，直奔秦豐的大本營黎丘，擊敗留守部隊。秦豐急忙回師救護，岑彭與諸將依山紮營。秦豐和蔡宏趁夜來襲，被早有準備的岑彭出兵迎擊，最終秦豐敗走，蔡宏被殺。戰後，岑彭因功被改封為舞陰侯。
公元28年（建武四年）二月，占據夷陵的田戎留部下辛臣駐守夷陵，自己則到黎丘準備歸降岑彭。不料辛臣卻盜走田戎的珍寶，抄近路搶先依附了岑彭，並且寫信招田戎來歸降。田戎懷疑辛臣出賣自己，不敢投降，於是和秦豐合兵抵抗。岑彭出兵攻打田戎，田戎兵敗逃回夷陵。十二月，劉秀到黎丘犒賞軍士，封賞岑彭部下有功者壹百余人。此時，黎丘兵馬僅有千余人，劉秀命朱佑代替岑彭圍城，令岑彭與傅俊消滅田戎。
平定荊州
公元29年（建武五年）二月，岑彭攻占夷陵，壹直追擊田戎到秭歸，俘虜田戎家眷、士兵。不久，岑彭命威虜將軍馮駿駐軍江州，都尉田鴻駐軍夷陵，領軍李玄駐軍夷道，自己則率兵還駐津鄉，據守荊州沖要之地。
十二月，岑彭寫信給舊友交趾州牧鄧讓，陳說劉秀的威德，勸其歸降。同時，岑彭派偏將軍屈充移檄江南，頒行詔命。不久，鄧讓和江夏太守侯登、武陵太守王堂、長沙相韓福、桂陽太守張隆，零陵太守田翕、蒼梧太守杜穆、交趾太守錫光等相繼派遣使者，貢獻方物禮品。
公元30年（建武六年），劉秀召岑彭入京，幾次接見歡宴，厚加賞賜。不久，岑彭南還津鄉，路過家鄉南陽棘陽時，還奉詔祭祀祖墳。此外，劉秀還令大長秋在初壹和十五探望岑彭的母親，以示關懷。 從征隴右
32年（建武八年），劉秀親征隴右隗囂。岑彭率部攻破天水郡，並與吳漢將隗囂圍困在西城。此時，公孫述部將李育來救隗囂，被蓋延、耿弇包圍在上邽。不久，劉秀回還洛陽，臨行前寫信給岑彭說：“兩城（指西城、上邽）若下，便可將兵南擊蜀虜。人苦不知足，既平隴，復望蜀。每壹發兵，頭須為白”。岑彭決定水淹西城，不料失敗。十壹月，隗囂部將行巡、周宗率領蜀地救兵前來救援，隗囂得以逃出冀城。此時，漢軍糧食用盡，岑彭等人只好燒毀輜重，撤軍而回，蓋延、耿弇也相繼退兵。岑彭親自斷後，這才保證眾將安全撤離。戰後，岑彭回駐津鄉。
進軍巴蜀
公元33年（建武九年），公孫述派任滿、田戎、程泛乘船下江關（今四川奉節縣東），擊敗馮駿、田鴻、李玄，攻克夷道（今湖北宜都）、夷陵（今湖北宜昌東南），占據荊門、虎牙二山。他們在江面上架起浮橋、鬥樓，並在水下立起攢柱，斷絕水道，而大軍則在山上安營，抵拒漢軍。岑彭幾次進攻，都失利而回，便建造直進樓船、冒突（船名）、露橈（船名）數千艘，做大進攻的準備。
公元35年（建武十壹年），岑彭與吳漢、臧宮等將領調集南陽、武陵、南郡的兵士和桂陽、零陵、長沙的棹卒（水手）六萬人，會集荊門。吳漢認為棹卒多費糧草，提議將他們解散。岑彭則認為蜀軍勢大，棹卒不可解散，並上奏皇帝，說明情況。光武帝對岑彭說：“大司馬（吳漢）習用步騎，不曉水戰，荊門之事，壹由征南公為重而已”。
於是，岑彭在軍中招募搶攻敵人浮橋的勇士，許以重賞。偏將軍魯奇應募，率勇士駕船逆流而上，直沖浮橋。結果戰船被江中攢柱阻住，難以前行。魯奇壹面率軍士死戰，壹面用火把焚燒攢柱，將橋樓燒毀。岑彭盡起全軍，順風並進，所向無前。蜀軍大亂，溺死者數千人。漢軍斬殺任滿，生擒程泛，而田戎則逃回江州。
岑彭保奏劉隆為南郡太守，自己則率領臧宮、劉歆進占江關，並嚴肅軍紀，號令軍中吏士，不得虜掠百姓。所到之處，百姓都奉獻牛酒，犒勞部隊。岑彭接見當地長者，對他們說：“大漢哀湣巴蜀久見虜役，故興師遠伐，以討有罪，為人除害。”並堅決不肯接受牛、酒等物。百姓大為喜悅，爭著開門歸降。劉秀遂任命岑彭守益州牧，而每攻克壹個郡，岑彭都先兼攝太守職務。 岑彭進軍江州，見田戎糧草眾多，短期內難以攻克，便留馮駿駐防，自己則率兵攻破平曲，收取糧草數十萬石。公孫述派遣延岑、呂鮪、王元、公孫恢拒守廣漢、資中，又派侯丹拒守黃石。岑彭多設疑兵，虛張聲勢，命楊翕和臧宮抵拒延岑等人，自己則分兵由水路回江州，溯都江而上，襲破侯丹。隨後，岑彭急行千余裏，壹鼓攻克武陽，並派精銳騎兵馳攻廣都，壹直攻到離成都幾十裏的地方，其勢如迅風疾雨，所到之處，勢如破竹，敵眾潰散。開始，公孫述聽說漢軍在平曲出現，便派大軍前往迎擊。等到岑彭到達武陽，繞出延岑部的後方，蜀地震驚。公孫述更是大驚失色，以杖頓地道：“是何神也！”
此時，岑彭駐紮在彭亡。岑彭聽到這個地名，心中不悅，本想移營，結果因天黑未果。公孫述派壹刺客，謊稱是逃亡之人，前來投降，乘夜間刺殺岑彭。
岑彭攻破荊門，邛谷王任貴聽聞岑彭威信，數千裏遣使迎降。使者到達時，岑彭已經遇害。劉秀便把任貴進貢的物品都賜給了岑彭的家屬，並賜岑彭謚號壯侯。蜀地百姓在武陽為岑彭立廟，四時祭祀。
公元60年（永平三年），漢明帝命人繪二十八功臣像，掛於南宮雲臺，其中就有“征南大將軍舞陰侯岑彭。