皇家馬德裏足球俱樂部前身是建於1896年的西班牙斯凱足球隊，當時僅有會員30人，隊員當時只有7、8人，比賽是在利斯塔大街的壹片空地上進行的。
19~20世紀之交，在西班牙首都馬德裏市剛度過美西戰爭和國內混亂之際，足球狂熱愛好者卡洛斯·帕德羅斯的決定在該市推廣足球運動，經過幾年的籌備，1902年3月6日正式成立了馬德裏社會俱樂部，由英國人阿瑟.約翰遜任第壹任主教練，帕德羅斯之弟胡安·帕德羅斯就任主席。1902年4月22日，俱樂部正式通過政府認可，馬德裏足球俱樂部成立。
俱樂部成立初期，更多的是參加地區級別的聯賽和簡單的“地方聯賽”，參加國家級別的賽事則要從1903年正式開始的西班牙國王杯算起。俱樂部在最初的4屆國王杯均捧桂冠，當時西班牙還未舉辦全國聯賽，只有王室舉辦的西班牙杯賽，馬德裏隊1905年首次奪冠，又在隨後的三年連續奪冠。
皇冠加冕
皇馬五鷹
俱樂部被冠以“皇家”之名要推遲至1920年，經過壹些波折之後又在1941年重新擁有“皇家”稱號並延續下去。
1920年6月29日，時任西班牙國王阿方索十三世把“Real”（西語，皇家之意）壹詞加於俱樂部名前，以此來推動足球運動在首都馬德裏市的發展。從此，俱樂部正式更名為皇家馬德裏足球俱樂部。
1928年，西班牙甲級聯賽開始舉辦，當時有十支球隊。在前幾個西甲賽季，由於隊伍實力相對較弱，皇家馬德裏未獲得西甲聯賽冠軍。直到引進了著名球員查莫拉後，才在1931/1932賽季首次奪冠。並且在第二年成功衛冕。
球隊在1931年首次奪得西甲聯賽冠軍，1933年再次蟬聯冠軍寶座。之後由於西班牙國內的政局動蕩和內戰的爆發，皇馬度過了壹段艱難的日子。到1941年，皇馬重新獲得了“皇家”稱號以後，俱樂部方才掃除陰霾。
1943年，聖地亞哥·伯納烏作為“既有真才實學，又能夠被主席團接受，又能被國家奧委會和西班牙體育聯合會認可”的唯壹人選入主皇馬俱樂部，從此開始了皇家馬德裏的“伯納烏時代”。那年國王杯半決賽那場國家德比成為永恒的經典，首回合巴塞羅那3：0獲勝，回到伯納烏的第二回合，上半場，巴薩就以0：8落後，最終皇馬以11：1大勝巴塞羅那。
璀璨篇章
1947年，查馬丁體育場落成，皇馬球員首次身披白色的號碼隊服進入這座偉大球場，之後的幾年皇馬成績平平，隨著1953年“神奇教練”恩裏克·費爾南德斯的到來，皇馬正式操起了當時流行的先進陣型“WM”陣型，伯納烏主席也在那個賽季為皇馬簽下了迪·斯蒂法諾，此後，隨著亨托、馬特奧斯等球員的到來，皇馬時隔21年後奪得了1954年的西甲聯賽冠軍。
20世紀50年代初期，皇家馬德裏重金聘用各國好手，引進了亨托和迪·斯蒂法諾，達到了20世紀的黃金時期。
1954年皇馬終於奪回了闊別21年的西甲聯賽冠軍，並在1955年又蟬聯了聯賽冠軍。同年，歐足聯創辦了首屆歐洲冠軍杯，皇家馬德裏代表西班牙參賽，壹舉奪得前五屆歐洲冠軍杯冠軍。這壹紀錄壹直沒有任何球隊能夠打破，皇家馬德裏因此也成為了歐洲的“夢之隊”。
1955年，皇馬在蟬聯西甲之後來到法國參加4年壹度的傳統歐洲賽事“拉丁杯”，並擊敗法甲勁旅朗斯奪冠。這個時候的皇馬已經聚集了諸如迪斯蒂法諾、亨托、華尼托、裏亞爾、薩拉、莫洛尼等壹幹超級球星，而當年的“查馬丁”體育場也為了對偉大的主席表示敬意而正式更名為“聖地亞哥·伯納烏球場”。
1956年，伴隨著法國足球雜誌《隊報》主辦的歐洲俱樂部賽“歐洲冠軍杯”的誕生。1956年，伯納烏當選歐洲聯賽執委的第壹副主席，皇馬在首屆冠軍聯賽的決賽中即以4：3擊敗了朗斯，成為了首屆冠軍杯的王者。
1956~1960年，皇馬在冠軍杯上5連冠，壟斷了這項賽事的頭5個冠軍。1957年在伯納烏擊垮佛羅倫薩、1958年在布魯塞爾斬落AC米蘭，1959年擊敗朗斯，皇馬奪得了四連冠。
而從1957年開始，伯納烏逐步將科帕、多明戈斯、卡納裏奧等人引進讓皇馬主席的引援思路逐漸明確並成為後世的皇馬高層壹直遵循的“金科玉律”——“買貴的球員，但要物有所值；買年輕球員，但要有潛質。”
1958年，匈牙利球王普斯卡什的到來具有劃時代的意義，除了簽下壹位年已31歲的球星需要魄力之外，“飛人上校”的祖國當時正被蘇聯的野蠻幹涉內政而混亂和恐怖，普斯卡什輾轉來到馬德裏的運作具有壹定的“避難”意義。然而，迪斯蒂法諾很快就發現，主席先生為他簽下的這位“看上去很胖”的隊友是那麽的強大和高效，兩人聯手在1960年冠軍杯決賽中打進7球，皇馬7：3戰勝德國球隊法蘭克福，是為那個時代最具代表意義的壹場經典之戰。當年的皇馬還曾經與如日中天的球王貝利領銜的巴西桑托斯隊對壘，結果仍然是皇馬以5：3勝出。
五連冠稱霸歐洲之後皇馬出現衰落，1964年，當時年已38歲的“金箭頭”由於身體原因無法繼續帶領球隊走在不斷勝利的軌道上，而他與伯納烏主席之間的兩封告別信件也成為皇馬歷史上的珍貴文物，最終迪-斯蒂法諾轉會西班牙人，結束了12年的白衣生涯，由於在歐洲賽場上的失利而導致的貸款緊縮，使得俱樂部壹度陷入了經濟困難的窘境，皇馬決議在1956年動土興建的體育城直到1963年才告完工，1963至1973十年間，皇馬收獲了5座聯賽冠軍、1個國王杯和1個歐洲冠軍獎杯，亨托還因此成為歷史上唯壹壹名奪得過6次冠軍杯的球員，此後，皇馬陷入了壹段沈寂當中。
20世紀70年代，皇馬繼續保持了強勁的奪冠勢頭。雖然在這期間沒有特別大牌的球星，但在球隊的努力團結下，在1972、1975、1976、1978、1979年五奪聯賽冠軍。1973年伯納烏體育館進行了改建工程，翌年執教14年之久的功勛主帥穆尼奧斯歷任，宣告了俱樂部壹段歷史的終結。
1978年6月2日，83歲的伯納烏主席因癌癥倒下了，之後71歲的路易斯·德卡路斯接替了老主席的職位，成為俱樂部的新壹任主席。
走向新時代
1979年的皇馬進入了另外壹個時代，南斯拉夫人博斯科夫執教的時代，當年的國王杯決賽發生在皇馬和“皇馬二隊”卡斯蒂利亞之間，最終皇馬捧杯。
1980年在獲得聯賽、杯賽雙料冠軍後，除1982年獲得杯賽冠軍，壹連五年與冠軍無緣，進入了艱難的時期。
1982年的世界杯決賽在伯納烏球場進行，意大利3比1擊敗聯邦德國第三次奪冠。但那個年代裏人們更多記住的卻是皇馬“球員罷工”的混亂。隨著獨裁者佛朗哥的離世，1982年和1984年9月9日，皇馬球員進行了歷史上兩次重要的罷工，其中前壹次還造成了落後2分的皇馬喪失了當季的西甲冠軍。
1985年5月4日，皇馬贏得歷史上首座聯盟杯之後的第3天，皇馬歷史上第三位德高望重的主席門多薩入主伯納烏，他治下的10年是皇馬重新走向輝煌的序曲。當年，皇家馬德裏引進了墨西哥球星烏戈·桑切斯和阿根廷球星巴爾達諾，加上本國的新星布特拉格諾等，實力大增。1985、1986年兩獲歐洲聯盟杯冠軍，成為聯盟杯歷史上第壹支蟬聯冠軍的球隊。
王朝復興
聯賽五連冠
從1986年開始，荷蘭人本哈克成為皇馬的主教練。布特拉格諾、米歇爾、桑切斯、巴斯克斯和帕德薩被譽為“皇馬皇冠上的五顆珍珠”。盡管經歷了壹些波折，但在他們的***同努力下，皇馬包攬了從1986~1990年連續5個賽季的西甲冠軍，實現了俱樂部歷史上第二次聯賽的“五連冠”（第壹次是1960~1964年）。
1986~1990年，皇馬連續五次奪得聯賽冠軍，創造了西班牙足壇歷史紀錄，但卻始終與無緣歐洲冠軍杯。在1990年西甲冠軍後，由於經營不善，負債累累。同時巴塞羅那在短暫低迷後的再度崛起令隊伍打擊不小。
1989年威爾士人托沙克成為皇馬的新主帥，在他的率領下皇馬當季38輪西甲打進了107球，“螞蟻”烏戈·桑切斯也成為了皇馬歷史上最為高效的射手之壹，但隨著“五鷹”時代的終結，皇馬再次陷入壹段小小的低潮期。
整個20世紀90年代前半段的西甲被克魯伊夫麾下的巴薩“夢之隊”所統治，直到1994年，回歸皇馬的巴爾達諾提拔了年輕的勞爾，從巴薩挖來丹麥天才球星大勞德魯普，在1995年1月7日的伯納烏，薩莫拉諾的帽子戲法幫助皇馬以5比0擊敗了巴塞羅那，整整旁落4年之久的西甲聯賽冠軍終於重新回到了伯納烏。
1995年在皇馬伯納烏5球大勝巴塞羅那且終於再次奪得聯賽冠軍，但僅過壹年，又只獲得聯賽第六的成績，滑到十余年最低谷。
1996年，卡佩羅接過帥印，率領這支豪華之師奪得聯賽冠軍。而在經歷了壹無所獲的壹個賽季之後的1996年，意大利人卡佩羅來到了皇馬，性格強硬的主教練幫助球隊擊敗了擁有羅納爾多巴塞羅那再次奪回西甲冠軍。
1997~2002年，皇馬三奪歐洲冠軍杯，加上之前的兩座歐冠，皇馬被國際足聯評為“20世紀最佳球隊”。
德國人海因克斯是皇馬歷史上執教時間較短的主帥，但他幫助俱樂部重新奪回時隔32年的歐洲冠軍杯，憑借蘇克、米亞托維奇和勞爾組成的攻擊線，1997/1998賽季的皇馬與意大利巨人尤文圖斯會師冠軍杯決賽，最終米亞托維奇的進球幫助皇馬獲勝，球隊歷史上第7次捧起了大耳朵杯。而隨後到來的希丁克則幫助皇馬捧起伯納烏杯和豐田杯。