嶗山山體從震旦紀呂梁運動時期已成為復背褶皺，而嶗山這塊巨大的花崗巖體是從白堊紀開始形成的。
據今約6800萬年至13000萬年的燕山運動晚期，從地殼深處上湧的熾熱熔融的巖漿，在地面以下幾公裏的地方冷凝。巖石有肉紅色、白色，礦物結晶成粒狀，地質上命名為“嶗山花崗巖”，但在它誕生時，並沒有露出地面。
新生代以來，地殼擡升，上邊覆蓋著的巖石逐漸被累年的風霜雨雪和經久的流水剝蝕掉，才露出了花崗巖石。到了新生代中期的200萬年以來，才開始呈現為現在的輪廓。嶗山面貌是第四紀末期，亦即在近幾萬年的滄桑變化中。?
嶗山地貌中，最有特色的是劍峰千仞、山巒巍峨和各種奇石怪巖。嶗山地貌按高程大致可分為上下兩層。上層為犬齒交錯的山峰，海拔近1000米，它們是1萬多年前末次冰期時形成的。
自然環境十分惡劣，第四紀幾度進侵的海水已退卻到沖繩附近壹帶，黃渤海成為壹片荒原，氣候幹冷。此時，日夜之間、冬夏之間溫差很大，花崗巖在寒凍作用下，機械風化很快，大塊大塊巖石崩裂，形成參差不齊、面貌崢嶸的山峰。