雞籠山在六朝時曾先後為皇家花園和佛教聖地，這裏還是科學家、文史學家雲集之所。劉宋時期，在山頂建立了第壹個日觀臺，既觀天象，又測風候。山下建立了史學館、文學館，當時全國有名的文史學家、哲學家常聚於此，著書立說，講學授徒，堪稱全國學術文化中心。
到蕭梁時期，雞籠山上建同泰寺。梁武帝四次舍身佛寺，然後大臣們不惜重金把他贖回的故事，就發生在這裏。這個虔誠的佛教徒最後在侯景之亂中餓死臺城。南朝末代皇帝陳後主，在雞籠山大造殿宇，用香木做梁柱門窗，清風吹過，香飄數裏。他和寵妃張麗華、孔貴嬪終日在宮內或花園裏尋歡作樂。公元589年，隋軍入城，陳後主無處可逃，只好帶著張、孔兩妃嬪躲進井內，結果被隋軍所獲。三人從井內爬出時，脂粉淋漓，沾滿井欄。後以帛拭之，其石有胭脂痕，所以此井被稱為“胭脂井”，又名“辱井”。元朝詩人陳孚在《胭脂井》壹詩中寫道：“淚痕滴透綠苔香，回首宮中已夕陽。萬裏河山天不管，只留壹井屬君王。”哀婉之意溢於言表。隋大將見張麗華艷麗絕倫，怕遞解回去擾亂了君王之心，立即抽刀把她斬首。這就是後人詩句中所責怪的“不斬君王斬麗人”。
1387年，在原來同泰寺填充的遺址上修整了宋、元時期的法寶寺，因山名已改為雞鳴山，故寺名亦改稱“雞鳴寺”，沿稱至今。
清朝康熙二十四年（1685年），康熙帝登上雞籠山，站在觀象臺上俯瞰玄武湖，心曠神怡，欣然提筆寫了“曠觀”二字。這年冬，兩江總督王新命、安徽巡撫薛柱鬥等官吏，為紀念康熙來此，特在西峰上建北極閣、禦碑亭，並立壹碑，碑額為“曠觀碑記”，碑文記載了康熙巡遊經過。從此，西峰稱北極閣，東峰稱雞鳴寺。