基被诬陷后不得不到京城请罪，朱元璋没有太多责罪，后来派人护送刘基返乡。据说当时刘基有病，胡惟庸派人曾在刘基药中下毒，回到家乡后，刘基告诉儿子：“如今朝廷应当修德政，减少刑法，可惜如今有胡惟庸当道，讲这些没用，将来胡惟庸败亡之后，太祖会想起我，你要将我的意思奏给皇上。”刘基还说：“如果我的预言不准，才是天下人的福份啊。”一个月后，刘基便死了，终年六十五岁。后来胡惟庸当了宰相，做了许多坏事，直到多年后他逆谋败露，被处死，事实再次证实了刘基预言的准确。
刘基，死年为65岁，他的体质，长期衰弱多病，四十岁上便已“齿脱头童”，兼有肝、肺疾患，不到60岁，常服的药方便已失灵。尔后，不过是苟延时日而已。且看他《老病叹》：“我身衰朽百病加，年末六十眼已花……肺肝上气如潮涌，旧剂再啜若淋砂。”能够捱得65岁，已颇不易。遭此政治陷害，心情之沉重抑郁可知。加上山高水远，旅途劳顿，于病情更之不利。从京都返回到病死，约莫两匝月，受蛊毒决不会拖得这么久，他的死，不过是油尽灯残罢了。
胡惟庸纵然不智，又何必在行将就木，不与朝政者的身上施以蛊毒，而授人以柄，自找麻烦。刘基死后，胡惟庸完成了朱元璋一直想干而难于措手的“任务”，目的既已达到，三个宰相串演的戏也该结束了。为了把戏演得逼真，需要有人证实是胡惟庸杀害刘基，最佳人选，就看上了在中书省共事的汪广洋，开场白由涂节担任。要除掉胡惟庸灭口，理由就是毒死刘基，汪广洋死后，更容不得胡惟庸再活世上。
因此，在汪广洋死后一个月左右，就以图谋不轨的叛逆大罪杀了胡惟庸，株连受戮达一万五千人，如此心狠手辣的暴行，史所罕见。满朝文武睹此惨状，谁不心惊胆战，噤若寒惮。这样，朱元璋就彻底控制了舆论，胡惟庸毒死刘基的故事，经过精心加工，常人难以察觉破绽。
刘基的文学成就，明人所辑的《诚意伯文集》中，有刘基散文三百二十三篇，诗歌一千一百八十四首，词二百三十三首。《明史·刘基传》评论说，刘基“所为文章，气昌而奇，与宋濂并为一代之宗”。
刘基的传说是民间文化的一大奇观，民间对刘基的评价也非常高，有句俗语叫做“三分