僅過了幾日，金陵城內便有一些傳說傳了出來，說劉伯溫是被當朝丞相胡惟庸害死的。
消息傳出，一些人初始還不相信當朝相國會如此大膽，毒殺朝廷命官，但消息被有心人的傳播，說得有鼻子有眼的，不由得人不信。
說是當朝相國胡惟庸記恨，當年劉伯溫說了他幾句壞話，便引起了胡惟庸的仇恨，以莫須有的罪名陷害劉伯溫，迫使劉伯溫返回了金陵城池。
但胡惟庸覺得這樣還不夠，不斷加害與他，便在前些時日，正逢劉伯溫感染了風寒，臥病在家中，被皇帝知道了，皇帝顧念劉伯溫昔年的功勳，便讓胡惟庸帶了御醫去探望。
御醫開了藥方，他照單抓藥回來煎服用，覺得肚子裡好像有一些不平整的石塊擠壓在一起，讓他十分痛苦。
二月中，劉基抱病覲見朱元璋，婉轉的向他稟告胡惟庸帶著御醫來探病，以及服食御醫所開的藥之後更加不適的情形。朱元璋聽了之後，只是輕描淡寫的說了一些要他寬心養病的安慰話，這使劉基相當的心寒。三月下旬，已經無法自由活動的劉伯溫，由劉璉陪伴，在朱元璋的特遣人員的護送下，自京師動身返鄉。回家後，拒絕親人和鄉里為他找來的一切藥石，只是盡可能的維持正常的飲食。
幾天後，病情越來越重，劉伯溫學究天人，自知來日無多，找來兩個兒子交代後事。交代完後事時，又讓劉璉從書房拿來一本天文書，對他說：「我死後你要立刻將這本書呈給皇上，一點都不耽誤；從此以後不要讓我們劉家的子孫學習這門學問，還讓子孫給朱家留下了許多治國良言，消息送到京城，不斷皇帝痛哭，便是文武百官也痛哭不已，後來皇帝派人找來劉伯溫的長子劉璉詢問劉伯溫的死時的情況，劉璉事無鉅細一一說了出來，皇帝覺得有疑，便讓御醫檢查劉伯溫的屍體，才知劉伯溫並非是病死的，而是吃了不明的藥物而死。
皇帝雖知這是胡惟庸所為，有心想治他之罪責，奈何沒有證據，只好作罷。
聽了這消息，金陵城的百姓一時大罵胡惟庸，直罵胡惟庸是宋時秦檜，是賈似道，要求皇帝治他的罪責。
這叫罵聲最初還只是幾個膽大的罵罵，後來不知怎麼的，罵的人越來越多，不少人糾結在一起，天天在胡惟庸府外叫罵，弄得胡惟庸很是狼狽不已。
「門外又有人罵了吧？」書房裡，胡惟庸皺著眉頭，對著門外問了聲。
「是的，老爺！「管家游七躬身道。
胡惟庸眉頭皺了一下，沒在說話，坐在太師椅上，顯得有些心神不寧，望了一眼書桌上的奏折，這些都是彈劾他的奏折，他沒料到自己探望了一下劉伯溫，竟引出了這樣的效果，實在大出他的意料之外，而且這些時日，他發現他府外有不少錦衣衛遊走，他不傻，心知這是怎麼一回事，但他沒有絲毫的擔心，如今的他已經是堂堂大明的相國，一人之下萬人之上，朝廷大半都是他的人，唯獨李善長沒表態，但他相信永不了多久，李善長一定會為他所用。如今的他，可謂是一呼百應，皇帝縱然想要動他，也不是那麼容易的。
看了一下奏折，對於劉伯溫之死的事情，他絲毫沒在意，劉伯溫如何死的，他心知肚明，誰都看得出，他與劉伯溫有仇，劉伯溫生病，皇帝誰也不讓去，唯獨叫自己去看望，這本身就是一個信號，他如何不懂，所以，他才對劉伯溫動手了，他這麼做，不過是順著皇帝意思。
不是他胡惟庸要劉伯溫死，是皇帝要他死！
只是他千算萬算，還是棋差一招，皇帝要劉伯溫的性命，他心知肚明，不然劉伯溫進宮向皇帝密告他對自己下了藥，皇帝都不曾過問半分，從這一點足以看出皇帝的心思了是怎樣了，劉伯溫聰明絕頂，也一定看出了皇帝心思，否則也絕不會不顧政令，獨自返回青田了。
他事事都算得清清楚楚，唯獨沒料到皇帝竟會拿劉伯溫的死來黑了他一把，這個黑鍋，他不背也得背了，這一招也是最厲害的一招！打得他有些措手不及，且無可奈何。
有些氣急敗壞的掃了一眼幾分奏折，便直接看了最後一道奏折，這道奏折竟是皇帝下達奏折，倒是出乎他的意料之外，只掃了一眼，他就勃然大怒，原來奏折裡朱元璋變更地方行政區劃，將浙江、江西、福建、北平、廣西、四川、山東、廣東、河南、陝西、湖廣、山西諸行省改為承宣佈政使司，同時廢除行省，將其職責一分為三：設承宣佈政使司、都指揮使司、提刑按察使司。主官簡稱布政使、都指揮使、按察使，分別掌管行政、軍政、司法職責。相互牽制，相互監督，不相統屬，直接由他指揮，這樣一來，他的中書省便如同虛設，明承元制，所有奏章都先進中書省，一般朝廷大事，先由中書省相國處理，給出意見後，發往吏、戶、禮、兵、刑、工這六部以及大都督府和御史台等各相關職能部門，這樣一來，所有的奏折就不能送給皇帝了，而是由他相國決定了，什麼東西皇帝能看，什麼東西皇帝不能看，什麼言論對自己有利，什麼言論最自己沒好處，一切都有相國掌握了。這也是相國能一人之下萬人之上的權利所在。
皇帝突然想撤銷中書省，設置三司布政使，目的很明顯，削弱的相國的權利，他好不容易爬上這個位置，經過多年的佈局，才有了今日一呼百應的局面，滿朝文武有一大半是他的人，這樣的局面，他豈能放棄，陡然看到這個奏折，讓他如何不驚訝，如何不憤怒。
「好你個朱元璋啊，散佈我殺劉伯溫的謠言是第一步，設置三司布政是第二步，看來你是要對我動手了，可惜啊，可惜了……可惜你還是不知道，縱然制度有所改變，但只要有中書省，有宰相的一日，承宣佈政使司、都指揮使司、提刑按察使司、所有的奏折，還是要送到中書省，由相國親自決定！只要有了這權利在手，滿朝文武還是我的人！「