同濟大學創建於1907年，隨後相繼設立藏書樓、閱覽室、圖書室等。1934年正式建立同濟大學圖書館。經過多次的搬遷與重建，至1990年建成的圖書館(總館)，面積22225平方米。1996年上海城市建設學院與上海建築材料工業學院並入同濟大學，2000年與上海鐵道大學合並。圖書館由總館、滬西分館、滬北讀者服務部、嘉定校區圖書館組成，總面積68721平方米，各校區間使用統壹的集成管理系統並實行通借通還，2004 年9月實行壹門式管理。
從2005年起，為了針對該校各院系文獻資源的現狀，實現對該校文獻資源的統壹規劃、合理配置及布局，建設壹個多層次滿足各類讀者文獻信息需求的資源和服務保障體系，使文獻資源得到最充分地利用，實現網絡環境下校內文獻資源協調、***建、互補與***享，最大限度地節省人力、物力、財力，同時整體上提升該校各類信息服務人員的業務技術水平，提高全校的文獻資源保障水平，該館對全校範圍內的院系分館及資料室進行了資源整合。截至 ，已有17個院系分館及資料室完成資源整合並且正式對讀者開放，另外有5個已完成資源整合但暫未正式對院外讀者開放的院系分館。