衡南二中原名大崗中學，1941 9月18，由江西省呂衡協會創辦。第壹任校長是主要發起人毛建武，又是大港報社總經理，所以以“大港”為校名。校址位於衡陽市北郊的唐世芳護國寺。其宗旨是紀念“9.18”事件10周年，為我國培養“國保”人才。學校規模不大，教職工10多人。每年招收兩個初中班，三個年級，六個班，最多200人。校舍是老廟，設施簡陋，設備匱乏。衡陽落在1944。為了躲避日本兵的災難，學校遷至長寧大坪鄉尹家祖祠。1949 10中華人民共和國成立，仍遷回衡陽市唐世芳護國寺舊址。1952原衡陽縣分為衡陽縣和衡南縣，大崗中學劃歸衡南縣，學校遷至衡南縣車江鎮對王漢川莊園。學校有* * *生產黨組織，迅速擴大，學生從200人增加到300多人。1958由民辦改為公辦，1959正式更名為“湖南省衡南縣第二中學”。此後，學校建築得到擴建，教師人數增加，設備不斷購置和更新。1952年，政府任命周建業(黨員* * *)為副校長(校長下落不明)，1957年，蔣濟調任二中第壹副校長(校長仍下落不明)，學校領導得到加強。1958招收高中生，學校由初中轉變為初高中兼備的完全中學。此時的學校規模更大，有辦公室、教室、教研組，有著名的老教師，有豐富的教學設施和配套的實驗設備。教師達到80人，在校學生超過1000人。教師積極性得到發揮，教育教學質量不斷提高。1963高考，有13人考上北大、人大、復旦。
文革時期，全國大亂，學校炮火連天。學校地處農村，也受到沖擊和騷亂，但受損較小。1977年恢復高考，恢復了正常的教學秩序，教師的積極性再次高漲，教學質量大大提高，每年都有大量合格的學生被送到高校。1984年有239人參加高考，183人被高校錄取，占參考人數的78%。運動隊、文藝宣傳隊、桃浦文學社也取得了突出的成績，獲得了很大的社會名氣，引起了上級的重視。1987年被定為衡陽市重點中學。
1990學校劃歸衡陽郊區管轄，周邊關系惡化。縣政府決定搬遷。校舍建在車江大山坪。1991開工建設，1994基本完工，1995學校遷址。