早在五十萬年前的舊石器時代，中國原始人就已經知道利用天然的洞穴作為棲身之所，北京、遼寧、貴州、廣東、湖北、浙江等地均發現有原始人居住過的崖洞。到了新石器時代，黃河中遊的氏族部落，利用黃土層為墻壁，用木構架、草泥建造半穴居住所，進而發展為地面上的建築，並形成聚落。長江流域，因潮濕多雨，常有水患獸害，因而發展為桿欄式建築。對此，古代文獻中也多有「構木為巢，以避群害」、「上者為巢，下者營窟」的記載。據考古發掘，約在距今六、七千年前，中國古代人已知使用榫卯構築木架房屋（如浙江余姚河姆渡遺址），黃河流域也發現有不少原始聚落（如西安半坡遺址、臨潼姜寨遺址）。這些聚落，居住區、墓葬區、制陶場，分區明確，布局有致。木構架的形制已經出現，房屋平面形式也因造做與功用不同而有圓形、方形、呂字形等。這是中國古建築的草創階段。
西元前二十壹世紀夏朝建立，標誌著原始社會結束，經過夏、商、周三代，而春秋、戰國，在中國的大地上先後營建了許多都邑，夯土技術已廣泛使用於築墻造臺。如河南偃師二裏頭早商都城遺址，有長、寬均為百米的夯土臺，臺上建有八開間的殿堂，周圍以廊。此時木構技術較之原始社會已有很大提高，已有斧、刀、鋸、鑿、鉆、鏟等加工木構件的專用工具。木構架和夯土技術均已經形成，並取得了壹定的進步。西周興建了豐京、鎬京和洛陽的王城、成周；春秋、戰國的各諸侯國均各自營造了以宮室為中心的都城。這些都城均為夯土版築，墻外周以城濠，辟有高大的城門。宮殿布置在城內，建在夯土臺之上，木構架已成為主要的結構方式，屋頂已開始使用陶瓦，而且木構架上飾用彩繪。這標誌著中國古代建築已經具備了雛形，不論夯土技術、木構技術還是建築的立面造型、平面布局，以及建築材料的制造與運用，色彩、裝飾的使用，都達到了雛形階段。這是中國古代建築以後歷代發展的基礎。
(2) 中國古代建築發展史上的第壹個高潮
西元前221年，秦始皇吞並了韓、趙、魏、楚、燕、齊六國之後，建立起中央集權的大帝國，並且動用全國的人力、物力在鹹陽修築都城、宮殿、陵墓。今人從阿房宮遺址和始皇陵東側大規模的兵馬俑列隊埋坑，可以想見當時建築之宏大雄偉。此外，又修築通達全國的馳道，築長城以防匈奴南下，鑿靈渠以通水運。這些巨大工程，動輒調用民力幾十萬，幾乎都是同時並進，秦帝國終以奢欲過甚，窮用民力，二世而亡。
漢代繼秦，經過約半個多世紀的休養生息之後，又進入大規模營造建築時期。漢武帝劉徹先後五次大規模修築長城，開拓通往西亞的絲綢之路；又興建長安城內的桂宮、光明宮和西南郊的建章宮、上林苑。西漢末年還在長安南郊建造明堂、辟雍。東漢光武帝劉秀依東周都城故址營建了洛陽城及其宮殿。
總秦、漢五百年間，由於國家統壹，國力富強，中國古建築在自己的歷史上出現了第壹次發展高潮。其結構主體的木構架已趨於成熟，重要建築物上普遍使用鬥栱。屋頂形式多樣化，廡殿、歇山、懸山、攢尖、囤頂均已出現，有的被廣泛采用。制磚及磚石結構和拱券結構有了新的發展。
(3) 傳統建築持續發展和佛教建築傳入
兩晉、南北朝是中國歷史上壹次民族大融合時期，此期間，傳統建築持續發展，並有佛教建築傳入。西晉統壹中國不久，就爆發了「八王之亂」，處於西北部邊境的幾個少數民族領袖，率部進入中原，先後建立了十幾個政權，史稱十六國時期。到了西元460年，北魏才統壹了中國北方，繼而又分裂。在南方，晉室南遷建立了東晉政權，接著先後出現了宋、齊、梁、陳四個朝代。這就是歷史上的南北朝時期。自此，中國南北兩方社會經濟才逐漸復蘇，北朝營建了都城洛陽，南朝營建了建康城。這些都城、宮殿均系在前代基礎上持續營造，規模氣勢遠遜於秦、漢。
東漢時傳入中國的佛教此時發展起來，南北政權廣建佛寺，壹時間佛教寺塔盛行。據記載，北魏建有佛寺三萬多所，僅洛陽就建有壹千三百六十七寺。南朝都城建康也建有佛寺五百多所。在不少地區還開鑿石窟寺，雕造佛像。重要石窟寺有大同雲岡石窟、敦煌莫高窟、天水麥積山石窟、洛陽龍門石窟、太原天龍山石窟、峰峰南響堂山和北響堂山石窟等。這就使這壹時期的中國建築，融進了許多傳自印度（天竺）、西亞的建築形制與風格。
(4) 中國古代建築發展史上的第二個高潮
隋、唐時期的建築，既繼承了前代成就，又融合了外來影響，形成為壹個獨立而完整的建築體系，把中國古代建築推到了成熟階段，並遠播影響於朝鮮、日本。
隋朝雖然是壹個不足四十年的短命王朝，但在建築上頗有作為。它修建了都城大興城，營造了東都洛陽，經營了長江下遊的江都（揚州）。開鑿了南起余杭（杭州），北達涿郡（北京），東始江都，西抵長安（西安），長約2500公裏的大運河。還動用百萬人力，修築萬裏長城。煬帝大業年間（605～618年），名匠李春在現今河北趙縣修建了壹座世界上最早的敞肩券大石橋安濟橋。
唐代前期，經過壹百多年的穩定發展，經濟繁榮，國力富強，疆域遠拓，於開元年間（714～741年）達到鼎盛時期。在首都長安與東都洛陽繼續修建規模巨大的宮殿、苑囿、官署。在全國，出現了許多著名地方城、商業和手工業城，如廣陵（揚州）、泉州、洪州（南昌）、明州（寧波）、益州（成都）、幽州（北京）、荊州（江陵）、廣州等。由於工商業的發展，這些城市的布局出現了許多新的變化。
唐代在都城和地方城鎮興建了大量寺塔、道觀，並繼承前代續鑿石窟佛寺，遺留至今的有著名的五臺山佛光寺大殿、南禪寺佛殿、西安慈恩寺大雁塔、薦福寺小雁塔、興教寺玄奘塔、大理千尋塔，以及壹些石窟寺等。此期間，建築技術更有新的發展，木構架已能正確地運用材料性能，建築設計中已知運用以「材」為木構架設計的標準，朝廷制定了營繕的法令，設置有掌握繩墨、繪制圖樣和管理營造的官員。
(5) 宋、遼、金時期建築的發展與《營造法式》的頒行
從晚唐開始，中國又進入三百多年分裂戰亂時期，先是梁、唐、晉、漢、周五個朝代的更替和十個地方政權的割據，接著又是宋與遼、金南北對峙，因而中國社會經濟遭到巨大的破壞，建築也從唐代的高峰上跌落下來，再沒有長安那麽大規模的都城與宮殿了。由於商業、手工業的發展，城市布局、建築技術與藝術，都有不少提高與突破。譬如城市漸由前代的裏坊制演變為臨街設店、按行成街的布局。在建築技術方面，前期的遼代較多的繼承了唐代的特點，而後期的金代，建築上則繼承遼、宋兩朝的特點而有所發展。在建築藝術方面，自北宋起，就壹變唐代宏大雄渾的氣勢，而向細膩、纖巧方面發展，建築裝飾也更加講究。
北宋崇寧二年（1103年），朝廷頒布並刊行了《營造法式》。這是壹部有關建築設計和施工的規範書，是壹部完善的建築技術專書。頒刊的目的是為了加強對宮殿、寺廟、官署、府第等官式建築的管理。書中總結歷代以來建築技術的經驗，制定了「以材為祖」的建築模數制。對建築的功限、料例作了嚴密的限定，以作為編制預算和施工組織的準繩。這部書的頒行，反映出中國古代建築到了宋代，在工程技術與施工管理方面已達到了壹個新的歷史水平。
(6) 中國古代建築發展史上的最後壹個發展高潮
元、明、清三朝統治中國達六百多年，其間除了元末、明末短時割據戰亂外，大體上保持著中國統壹的局面。由於中國古代社會的發展已屆尾聲，社會經濟、文化發展緩慢，因此建築的歷史也只能是最後的發展高潮了。元代營建大都及宮殿，明代營造南、北兩京及宮殿。在建築布局方面，較之宋代更為成熟、合理。明清時期大事興建帝王苑囿與私家園林，形成為中國歷史上壹個造園高潮。喇嘛教建築的營造，完全是出於清朝廷的政治需要，壹時間蒙、藏、甘、青等地廣建喇嘛廟，僅承德壹地就建有十壹座。這些廟宇規模宏大，制做精美，是中國古代建築發展史上的壹個畸型。明清兩代距今最近，許多建築佳作得以保留至今，如京城的宮殿、壇廟，京郊的園林，兩朝的帝陵，江南的園林，遍及全國的佛教寺塔、道教宮觀，及民間住居、城垣建築等，構成了中國古代建築史的光輝華章。