拉姆斯菲爾德乃德裔美國人，祖先在十九世紀由德國的不萊梅移居到美國的伊利諾州，而拉姆斯菲爾德則在伊利諾州長大，家人現時都在當地居住。拉姆斯菲爾德生於芝加哥的壹個房地產商家庭。1954年普林斯頓大學畢業，獲文學士學位。1954年至1957年在美國海軍當飛行員和飛行教官。在校期間是橄欖球隊的主力，並曾獲海軍摔跤比賽冠軍。
1963年1月至1969年5月，拉姆斯菲爾德任國會眾議員。1969年5月，他被尼克松總統看中，出任總統助理和“經濟機會辦公室”主任，1970年至1973年任總統顧問。1971年10月任財產調查局局長和生活費用委員會主任。1973年1月任美國常駐北大西洋公約組織代表。1974年8月任白宮辦公廳主任。
1975年11月至1977年1月，拉姆斯菲爾德在福特政府中任國防部長，成為美國歷史上最年輕的國防部長。此後，他轉往企業界發展，先後出任西爾醫藥和通用儀器兩家大公司的總裁。
2001年1月，布什就任美國總統後，拉姆斯菲爾德在布什內閣中出任國防部長，成為美國歷史上第壹位兩度出任國防部長的人。2004年12月，他留任國防部長職務。
2006年，隨著美國在伊拉克戰爭泥潭中越陷越深，美軍傷亡數字不斷攀升，美國民眾對布什政府的對伊政策普遍感到不滿。作為對伊政策主要制定者之壹的拉姆斯菲爾德，壹直面臨輿論要求其辭職的巨大壓力。此外，在他任內發生的美軍壹系列虐囚事件曝光，也使得拉姆斯菲爾德飽受各界批評。11月8日，拉姆斯菲爾德辭去國防部長的職務。
拉姆斯菲爾德是布什政府中“鷹派”力量的代表。出任國防部長後，拉姆斯菲爾德不遺余力地推動建立導彈防禦系統，並且策劃和指揮了美國在阿富汗和伊拉克的兩場戰爭，被普遍認為是布什政府中的強硬派人物之壹。 1977年獲總統自由勛章。曾任政府工作委員會、科學和星際航行委員會和兩院經濟聯合委員會等委員。他還是蘭德公司理事會理事長，東方航空公司、人民能源公司、本迪克斯公司、西爾斯·羅巴克公司的董事。
1954年與喬伊斯結婚，他們有三個孩子。
1974年11月、1994年9月和1999年10月訪問中國。2005年10月，美國國防部長拉姆斯菲爾德對中國進行正式友好訪問。