中國鐵路工程總公司正式成立前大體經歷了工程總局設計局和基建局、基建總局至文革初期、軍管會及交通部、恢復鐵道部至80年代四個時期，即：
壹、鐵道部工程總局、設計局和基建局時期（1950－1957）
二、鐵道部基建總局至“文革”初期（1958－1967）
三、軍管會及交通部時期（1967－1975）
四、恢復鐵道部至80年代（1975－1989）
1988年，國家機構編制管理委員會批準《鐵道部“三定”方案》，鐵道部自1989年7月1日起，撤銷鐵道部基本建設總局，正式成立中國鐵路工程總公司，其性質是鐵道部領導下的自主經營、獨立核算、自負盈虧、具有法人資格的全民所有制企業。中國鐵路工程總公司管轄原基建總局的全部所屬單位，即：第壹至第五工程局，大橋、隧道、建廠、電氣化工程局，第壹至第四勘測設計院、專業設計院、山海關、沈陽、寶雞橋梁廠和寶雞、武漢工程機械廠、武漢工程機械研究所、鹹陽基建幹部學院和石家莊黨校等單位。直屬單位主要有華鐵工程咨詢公司、北京燕豐飯店、秦皇賓館、技術服務中心、物探研究實驗中心、中國鐵路工程機械租賃中心、廣州、上海聯絡處和各個指揮部等。
2000年9月28日，中國鐵路工程總公司與鐵道部“正式脫鉤”，領導班子移交中***中央企業工作委員會管理。同時，企業進行了重組：第壹、二、三、四勘測設計院和專業設計院從總公司劃出歸鐵道部所屬，另並入豐臺、成都兩個橋梁廠和鐵道部科學研究院所屬的西南、西北分院。2003年5月國務院國有資產監督管理委員會成立後，中國鐵路工程總公司整體歸屬國資委管理。2003年，根據國務院國資委和鐵道部深化改革的要求，企業再次進行重組。10月27日～30日，中國鐵路工程總公司分別與北京、成都、昆明、鄭州、濟南、呼和浩特、沈陽鐵路局舉行交接儀式，接收了20家原鐵路局所屬設計施工企業，即：北京勘測設計院、太原勘測設計院、北京鐵路建設集團有限公司、太原鐵路建設集團有限公司、成都勘測設計院、成都鐵路工程集團有限責任公司、昆明勘測設計院、昆明鐵路建設集團有限責任公司、鄭州鐵路勘測設計院、鄭州鐵路建設集團有限公司、武漢鐵路建設集團有限公司、西安鐵路工程集團有限公司、濟南鐵路勘測設計咨詢院有限公司、濟南鐵路工程集團有限責任公司、呼和浩特勘測設計院、呼和浩特鐵路建設集團有限責任公司、沈陽勘測設計總院、沈陽鐵路工程建設集團有限公司、錦州工程集團有限公司、吉林建設工程集團有限公司。2003年12月2日，鐵道第二、第三勘察設計院回歸中國鐵路工程總公司。2003年12月31日，原屬國資委管理的中國海外工程總公司正式加盟中國鐵路工程總公司。
根據企業發展戰略，總公司2003年以來對所屬各成員企業進行不斷調整和重組，截止2005年10月，***有40家成員企業和直屬單位，其中，1家外經外貿企業：中國海外工程總公司；14家綜合施工企業：中鐵壹局、二局、三局、四局、五局、六局、七局、八局、九局、十局、大橋局、隧道、電氣化局、建工集團有限公司；6家勘察設計企業：中鐵二院工程集團，中鐵工程設計咨詢集團有限公司，中鐵大橋、電氣化、通信信號勘測設計院；3家科研開發企業：中鐵西北、西南、工程機械科學研究院；4家工業制造企業：中鐵山橋集團有限公司、寶橋股份有限公司、寶工集團有限公司、武漢工程機械廠；12家直屬子分公司和單位：工程建設公司、上海分公司、華鐵咨詢有限公司、總公司海外經營開發中心、廣西項目管理中心、北京中鐵工地鐵項目建設有限公司、華豐房地產有限公司、知鐵公司、程誠源財務服務中心、燕豐飯店、中鐵鹹陽管理幹部學院、石家莊黨校等。另有內昆鐵路、秦沈鐵路、西康西南鐵路、青藏鐵路、渝懷鐵路、貴陽鐵路、蒼郁鐵路、岑梧鐵路、德商鐵路、平正鐵路、安景鐵路、大麗鐵路、北京地鐵奧運支線、岑興鐵路、全興鐵路等15個指揮部和項目公司。
中國鐵路工程總公司大力實施“走出去”戰略，充分利用國家對外承包工程的政策支持，在鐵路、公路、橋隧、電氣化、通信信號、工民建、鋼結構、道岔等領域全方位走向國際市場。同時積極參與和介入政府支持的工程，工業企業充分利用國家支持機電產品和高新技術產品出口的政策，增加了產品出口，擴大了海外市場份額。截止2005年底，中國鐵路工程總公司海外營業額已由2000年的不足5000萬美元上升到8.36億美元。目前，總公司的海外業務已遍及南北美、東南亞、中東和非洲等50多個國家和地區。50多年來，中國鐵路工程總公司秉承“勇於跨越，追求卓越”的企業精神，充分發揮投融資、咨詢、設計、施工、科研、工業制造壹體化的優勢，開拓創新，銳意進取，在祖國建設史上創造了不朽的業績。總公司先後參加了成渝、天蘭、寶成、成昆、川黔、大秦、衡廣、寶中、蘭新、京九、南昆、內昆、株六、西南、秦沈、青藏、京津城際快速軌道以及石太、武廣、鄭西客運專線等百余條鐵路建設，完成了數千項公路、機場、碼頭、水電、地鐵、高層建築、市政等國內大型工程項目的設計與施工。***新建、改建、擴建鐵路幹線54000公裏，占全國鐵路總裏程的2/3以上；建成電氣化鐵路22660多公裏，占全國電氣化鐵路的95%；建成大型橋梁4230多公裏，隧道3900多公裏，公路7403公裏（“九五”以來數據），高速公路3400公裏，城市軌道566公裏。特別是改革開放以來，總公司積極參與國際競爭，先後在北美、東歐、西非、東南非、南太平洋、東南亞等60多個國家和地區開展了工程承包、勞務輸出、進出口貿易、對外經濟技術援助及實業開發業務，建立了廣泛的合作關系和業務渠道。
作為從事國家基礎設施建設為主的國有大型企業，中國鐵路工程總公司先後承建的中國橋梁建設史上具有裏程碑意義的武漢長江大橋、南京長江大橋、九江長江大橋、蕪湖長江大橋、東海大橋、深圳灣大橋，國內目前最長的雙線鐵路隧道——大瑤山隧道（14.2公裏）和單線鐵路隧道——秦嶺隧道（18.4公裏），中國第壹條準高速電氣化鐵路廣深線、第壹條客運專線鐵路秦沈線，中國海拔最高的鐵路——青藏鐵路，以及北京火車站、深圳火車站、拉薩火車站，北京、上海、廣州、深圳、南京、天津、重慶地鐵及城市軌道工程，深圳南海大酒店、五洲大酒店、市民中心，北京亮馬河大廈、幸福大廈、國家圖書館、上海F1國際賽車場，深圳、西安、桂林國際機場等壹大批標誌性工程，代表了各個時期國內領先、世界壹流的建築水平。