漢武帝時，十八歲的終軍便因才學出眾入選為博士，並得到了漢武帝的賞識，被任命為謁者給事中。當時，朝廷正要派使者出使匈奴。終軍向漢武帝上表，毛遂自薦說：
“臣願意竭盡所能，擔任此次出行的使者，向匈奴王單於闡明利害。”
漢武帝見終軍主動要求出使，便下詔問他有什麽打算。終軍就把如何對單於曉之以理，動之以情，說明利害關系，勸他歸順的設想，向武帝稟明。武帝對他的設想非常欣賞，提升他為諫議大夫，專門執掌議論劃策的職務，但沒派他出使匈奴。
過了不久，南越(南方的古族，也稱“南粵”，在今兩廣等地)請求與漢朝聯姻。漢武帝想說服越王歸順漢朝，但不知道該派哪位使者才能圓滿地完成使命。
終軍向武帝自薦說：
“臣願意拿壹根長纓，把南越王收縛漢宮門下。”
武帝見終軍願意出使，就派他南下。
終軍歷經千辛萬苦，跋山涉水來到南越，憑借自己的那張三寸不爛之舌，終於說服了越王，願意舉國歸順，在漢朝封侯。
武帝見終軍說服了越王，不由龍顏大悅，賜給南越王大臣的'印綬，並在越境內用漢朝的禮法代替舊俗，還命終軍作為特使留在當地安撫民眾。
沒想到，南越的相國呂嘉居心叵測，拒絕歸順漢朝，發兵殺了越王，並且包圍了漢使館舍。
漢朝的使者們寡不敵眾，全部死於越兵刀下。終軍死的時候才二十幾歲，世人稱他為“終童”。
後來，“終軍請纓”這壹典故，用來稱立下降服強敵、建功報國的大誌，多用於投軍或出使。