盡管對朱元璋是否屬意劉基大可置疑，① ()但他向劉基征詢對楊、汪、胡三人能否任相的意見應(yīng)是有史可稽。1371年，李善長以疾致仕，繼任的丞相，先是楊憲，再是汪廣洋，此二人敗后，李善長推薦的胡惟庸正式登場了。

胡惟庸和李善長同鄉(xiāng)，也是安徽定遠(yuǎn)人，1355年在和州參加朱元璋幕府，以辦事靈巧，再加李善長的舉薦，一步步贏得了朱元璋的賞識，至1370年，拜中書省參知政事，已是新政權(quán)中的一個高級文官。1373年初，右丞相汪廣洋左遷廣東行省參政，胡惟庸拜右丞相，不久，進(jìn)左丞相，開始獨(dú)專其事。得悉劉基曾在朱元璋面前說自己不堪大任，胡惟庸懷恨在心，每思報復(fù)。那時劉基已經(jīng)致仕回浙江青田老家，不再與聞?wù)危┯惯€是不肯放過他。

劉基的朋友宋濂，與同郡人吳德基一起致仕時，曾問吳是不是懂得保全之道。吳德基表示愿聽指教，宋濂說是“慎毋出戶，絕世吏，勿與交”。宋濂教給吳德基的，也是劉基早就在做的?；氐角嗵锢霞液?，他日日飲酒下棋，不問世事。據(jù)說青田縣令想見他而不得，打扮成一個老百姓的樣子前去尋訪，劉基當(dāng)時正在溪邊洗腳，就讓兒子把客人引入茅舍，燒了一鍋黍飯招待他，稱自己不過一介草民，何勞大人親自造訪。但即便這般謹(jǐn)小慎微，劉基還是出事了。

在劉基的老家甌江、括蒼山間，南抵福建界，有一處叫談洋的地方，私鹽販子十分猖獗，劉基建議在此設(shè)立巡檢司，地方官吏沒有采納，于是劉基繞過中書省臣，遣長子劉璉直接向皇帝上奏。胡惟庸那時剛升任左丞相，掌中書省，他意識到攻擊的機(jī)會來了。他指使親信誹謗劉基在談洋這個有王氣的地方營建墳?zāi)褂兄\逆意圖，建議設(shè)立巡檢司的真正目的是驅(qū)逐百姓，爭搶地盤。果然，朱元璋的猜忌心再一次被激起了。

此時的劉基已進(jìn)入生命中的老境，用他自己的話說，“須發(fā)已白過大半，齒落十三四，左手頑不掉，耳聵，足踸踔不能趨”，懼怕呆在家里會有災(zāi)禍降臨，急忙趕赴京師表明心跡。朱元璋沒有責(zé)怪他什么，因此他也沒有機(jī)會作任何辯解。但朱元璋還是在他入京次月借故羞辱了他一番，停發(fā)了他一月薪俸，理由是他在一次祭孔典禮上不陪祭而受胙。受胙不受胙本是小事，朱元璋如此小題大做，分明是故意讓劉基難堪。此后年余，劉基有家不能歸，在朝無職事，只是以誠意伯的空銜隨朝陪侍，有時接一些臨時任務(wù)寫一些無關(guān)痛癢的官樣文章，有時也出門應(yīng)酬一二，飲酒賦詩聊以解愁，不久就臥床不起了。

眼看劉基不久于人世，1375年春天，朱元璋決定賜他“還山以便侍養(yǎng)”。離京南歸的日子定在二月三日，此前一天，朱元璋關(guān)心劉基病情，特召宋濂來問，宋濂答是患“霜露之疾”。當(dāng)步至丹墀時，朱元璋讓內(nèi)使把他一部新刊刻出版的文集賜予宋濂。后來宋濂得知，這部文集受賜的惟他與李善長、胡惟庸三人，沒有給劉基，從中可見朱元璋與劉基間的關(guān)系已大不如前了。