大麻作為植物，原產於印度、伊朗、喜馬拉雅山到西伯利亞壹帶及中國。它以各種形式用於生活、醫藥、宗教、禮儀和娛樂已有數千年歷史，中國被認為是種植和使用大麻最早的國家。在中國的種植甚至可以追溯到傳說中的神農氏時代。河北槁城臺西村商代遺址就曾出土過大麻殘片，距今已有3400年的歷史。《呂氏春秋·審時篇》中提及的“六谷”中就有麻（五谷是否含麻有爭議）。這是因為大麻在生產生活中有諸多用途，比如大麻纖維可以用於織漁網、搓繩、做衣服等原料，大麻籽還可直接食用或加工食用油脂及各種食物。中國現存最早的藥書《神農本草經》中就有“麻賁（大麻仁帶殼稱麻賁）多食，人見鬼，狂走，久服通神明”的記載。壹些學者也認為傳說中華陀所制的麻沸散中含有的精神活性即麻醉成分的來源就是大麻。而大麻的籽、枝、葉也是中國傳統中草藥配方常用藥材，像《本草綱目》中關於大麻的醫藥和保健用途的記載多達數百條。其他國家和地區也有類似應用，像祆教經典《阿維斯陀經》列舉了萬余種藥用植物，大麻名列其中。而阿拉伯人可能是從埃及人那裏學會了將大麻放在開水裏燒煮，然後吸入蒸氣，以緩解疾病。1993年在阿爾泰山脈發現的女幹屍的死因推測是為了減緩癌癥和骨髓炎的病痛而吸食過量大麻導致，這可能也是極少見的大麻致死的第壹例。此外，大麻在歷史上還有諸多用途，比如第壹張紙就是中國在公元100年用大麻纖維制成。
大麻特有的致幻效應曾經在宗教和娛樂方面得到廣泛應用，最早可能出現於印度，估計為公元前2100-公元前1400年，利用大麻做麻醉劑從而達到與神溝通的效果為托缽僧（sadhu）所廣泛使用，他們稱之為“通向天國的向導”。阿拉伯人也很早就知道用大麻葉搗爛成汁，飲後能使人麻醉，飄飄欲仙。還有很多歷史學家懷疑：古代猶太教派、早期基督教派、早期穆斯林蘇菲派都使用過大麻，甚至有聲稱穆斯林先知穆罕默德曾允許使用大麻（原因也許是經典伊斯蘭教義不允許飲酒，而大麻可以達到類似的效果）。可以肯定的是伊斯蘭什葉派壹個極端宗教派別阿薩辛（Hashshashin，意即迷途者，其實就是金庸作品《倚天屠龍記》中“山中老人”的門派）其名即來自於大麻樹脂（Hashish）。
西方引入大麻的時間相對較晚，歐洲最早有大麻記載是在公元前270年，到16世紀才廣泛栽培。
和大部分傳統毒品壹樣，大麻很長時間裏是完全合法甚至是被鼓勵乃至強制種植的，比如美國。大麻在美國的歷史最早可追溯到殖民地時期，1611年，英國殖民者在弗吉尼亞的詹姆斯敦附近培植了第壹株大麻，因為大麻的纖維可以用來制造船帆、繩索，它的副產品也可用來給木質船只做填絮，所以大麻逐漸成為頗具使用價值的日用品甚至是戰略物資。但由於大麻對土地肥力消耗太大，而且經濟價值不算很大，農民的興趣有限，甚至壹度出現寧可交罰款也不願種植的情況。從英王到殖民地政府只能采用半強制的辦法勒令種植。1619年，弗吉尼亞立法會議頒布了美國第壹道適用於大麻的法令，該法令要求每個農民都必須種植大麻。1762年，弗吉尼亞再次頒布法令，強制農民種植大麻。大麻在美國的合法地位由此得到確認和加強。此後壹百多年裏，大麻壹直是美國的主要非糧食經濟作物之壹，而且是治療數百種疾病的主要藥物，其合法地位也從未受到有威脅的質疑，遑論挑戰。
1839年，Shaughnessy開始了西方醫學界的大麻研究。1854年，美國藥典把“cannabis”列入藥品，並指出，如果劑量過大，可能會產生“令人擔憂的影響”。此後數十年間，含有大麻樹脂的藥物被廣泛用作止痛和鎮靜藥物。研究人員則試圖提取其中有用組分用於藥物制備，但由於分離提純極為困難，1898年才提純出第壹種活性組分“紅油”（其實就是大麻酚），而且這個實驗此後三十多年裏壹直未能再現，1931年才再次成功，所提取的也壹度被認為是混合物而非單壹組分。直至1940年才最後確認了分子結構。
大麻用作藥物制劑的時間並不長，因為醫學界很快發現這類制劑不能給治療帶來“穩定的”作用，反而會導致患者產生焦慮、狂妄、抑郁、神誌混亂等精神癥狀，還會導致心律增加、協調功能降低。劑量控制不好反而使患者癥狀加重。而且，隨著大麻的濫用，大麻的副作用被認識並強化，1913年，美國加利福尼亞州藥品局通過修改州有害物質控制法（Toxic Substance Control Act ，TSCA）的形式對大麻管制，成為美國最積極管制大麻的州（不過也有人認為這個時期的壹系列大麻管制法案更多是種族歧視的結果，因為當時的美國，白人吸食大麻的極少，絕大部分是黑人等有色人種，美國上流社會的傳統清教徒思想可能也發揮了某種作用）。1914年，美國國會批準哈裏遜（Harrison Narcotic）法案，管制可卡因和大麻。到1931年美國***有30個州通過頒布新的法令或修改原有法令的方式來禁止使用或擁有大麻。1937年，在美國醫師協會（ACP）強烈反對的情況下，美國國會通過大麻稅法，用於娛樂用途的大麻視為非法，醫療和工業方面的用途開始征收消費稅，盡管當時所有的研究結果都表明大麻不是成癮性毒品，也沒有足夠的證據證明犯罪與大麻之間的關聯性（忽視這些也許是因為當時的技術能力無法區分毒品大麻和工業大麻）。不過據說在國會討論時還為大麻究竟用cannabis還是marijuana而很是爭議了壹番。
二戰期間，由於日本切斷了來自亞洲的纖維渠道，美國農業部鼓勵種植大麻用以制作降落傘、帳篷、繩索等等。當時的口號是“大麻為了勝利（Hemp for Victory）”，並為此專門成立了“戰時大麻工業生產局（War Industrial Hemp Board）”。
1954和1957年，世界衛生組織兩次作出印度大麻無任何治療價值的結論，1965年該組織再次指出“濫用印度大麻對社會所造成的危害，表現為服藥者個人不能克盡其社會職能，且變得更容易作出非社會和反社會的行為，從而給社會造成經濟損失。”不過他們同樣在1969年指出，“大麻不是成癮性藥物，而是依賴性藥物”。
1961年，聯合國通過的《麻醉品單壹公約》（Single Convention on Narcotic Drugs）將大麻、鴉片、古柯及其衍生物（如嗎啡、海洛因和可卡因）壹同列入違法麻醉品行列。
1964年，以色列希伯來大學的Raphael Mechoulam人工合成了THC（即四氫大麻酚，下同），這是第壹種被人工合成的大麻素。
1971年，美國總統尼克松下令組建美國緝毒署（又稱毒品管制局，Drug Enforcement Administration，DEA），並將大麻與海洛因、可卡因壹起列入壹級管制品。這壹決定被認為在大麻管控方面具有決定性作用。
考慮到大麻植物的傳統經濟和藥用價值，1975年8月聯合國修改了《1961年麻醉品單壹公約》，明確表示“本公約對於專供工業用途（纖維及種子）或園藝用途的大麻植物的種植不適用”。聯合國1988年12月通過的《禁止非法販運麻醉藥品和精神藥物公約》也明確了“應適當考慮到有歷史證明的傳統性正當用途以及對環境的保護”。
盡管世衛組織的結論（該結論也可能和政治環境有關），但大麻的藥用價值研究壹直在進行中。1986年，大麻素主體成分之壹的四氫大麻酚被美國批準作為抗嘔吐劑用於腫瘤化療病人（但中國尚未通過其臨床應用）。1990年，大麻素受體被發現。1992年，Devane從豬腦中分離出第壹種內源性大麻素，花生四烯酸乙醇胺（arachidonylethanolamide），命名為anandamide。這兩類物質的發現使得對大麻可能的藥用價值研究進入了新的階段。研究表明，大麻素類化合物如應用於醫學，可輔助某些晚期絕癥（癌癥和艾滋病）的治療，用來增進食欲、減輕疼痛、減輕化療患者的惡心癥狀 ；也可緩解癲癇和偏頭痛等神經癥狀。更重要的是，不少具有上述生理活性的大麻素類化合物（如大麻二酚）屬於非精神活性類化合物，幾乎不具有成癮性。
2004年（也有說2006年），以萘甲酰吲哚類合成大麻素（Synthetic cannabinoids）為主要成分的植物香料型毒品從開始在歐洲流行，其用意可能是為了加強毒品效果並逃避警方，有人也推測它可能是壹種“策劃藥”（Design drug）。2009年1月，奧地利、德國相繼頒布法令，禁止進口和銷售含有幾種特定成分（如JWH-018及類似物）的產品。2010年，國際麻醉品管制局提示各國監管機構需註意合成大麻素這壹類新型濫用藥物成分。同年，中國大陸警方查處了第壹起“香料（Spice）”毒品。2011 年 3 月，美國緝毒署將合成大麻素列為Ⅰ類受控物質，2014年，中國將合成大麻素列入壹級管制精神藥品。