洪武八年正月，劉基生病了，朱元璋派胡惟庸(註意這點)探視劉基，胡惟庸隨身的醫生給劉基開了藥方。劉基吃了藥後，病情越來越重，過了不久就死去了。
關於劉基的死因，後來胡惟庸案發後，醫生供認是胡惟庸授意他毒死劉基的。這也成為了胡惟庸的罪狀之壹。
很多人都知道，胡惟庸和劉基有仇，朱元璋也知道，卻派他去探望劉基。而劉基這樣有影響的人，胡惟庸是不敢隨便動手的，不然也不會讓劉基在他眼皮底下逍遙五年，他很有可能是得到了朱元璋的默許。無論此事是否朱元璋指使，但毫無疑問，劉基之死朱元璋是負有責任的。
劉基壹生足智多謀，為明王朝的建立立下汗馬功勞。他對形勢判斷準確，思維縝密，能預測事情的發展方向。雖然他本人並非真如民間傳說那樣，有呼風喚雨的本事，但從他的判斷和預測能力來看，料事如神並非過分的評語。他和諸葛亮壹樣，已經作為智慧的象征被老百姓所銘記。