《嘉靖順德府誌》“玉泉寺，在縣西北四十裏，金大定年建”。清康熙版《邢臺縣誌》寺觀條下：玉泉寺“縣西北四十裏，在馬鞍山下俗名黃（皇）寺”。 並錄有清人王毓陽《玉泉寺詩》壹首，詩曰：
蒼松白石兩相依，與客攀臨眺晚暉；
地迥曇雲迷遠嶂，林空碧葉舞禪扉。
老僧面壁渾無語，閑鳥依巢解息機；
大覺由來不住相，隨綠何必慕袈衣。
清光緒版《邢臺縣誌》記載與康熙誌同，並增收明人延廷有關於玉泉寺的詩二首。根據地方史料記載，寺，始建於唐代貞觀年間，為玉泉寺，距今已有1300多年的歷史了。因在元代時，元順帝被明軍追殺，曾避難於玉泉寺，而後朱元璋又在此歇兵餵馬的緣故，玉泉寺又俗稱皇寺。
玉泉寺，始建於唐，重修於金，中興於元。禪寺營建於太行東麓之龍山下（亦稱棋盤山）。軸線建築存有二殿，唐柏三 株。2002年9月，凈慧法師組成玉泉僧團正式接管玉泉寺；次年三月中旬開始進行恢復建設，到2005年時玉泉寺第壹期修復工程順利完成，先後對三寶殿 （原大雄寶殿）、觀音殿（原稱大佛殿、古稱華嚴殿）進行保護修復，大殿前有自金、元到明清、民國碑刻二十通。新塑佛祖金身12尊，其中觀音殿2.8米高紅 木（黃花梨）觀音像，獨木雕成，工藝精湛，具有很高的價值；並在玉泉禪寺東西兩側新建了殿堂僧舍近百間，總面積達3000多平米；二期擴建工程已經啟動， 現在軸線重建了天王殿和山門，治理玉泉池、並重修了玉泉池石欄及停車場。還有修砌部分圍墻及河道護坡也在進行當中，計劃恢復原有的鐘鼓樓及玉泉牌坊等工作 也在積極準備中。從寺院來說，現有的房屋及設施亦有規模，各種設施也自成系統，已經基本上滿足佛事活動的需要。