后來(lái)陳毅在5月10日陪同解放軍總司令朱德赴華東野戰(zhàn)軍總部駐地濮陽(yáng)，但直到朱德離開(kāi)兩天后的5月20日，他還沒(méi)有動(dòng)身前往中原就職。中共中央于5月21日致電陳毅，指示：“陳毅不參加此次作戰(zhàn)（豫東戰(zhàn)役）”，敦促他“盡可能迅速偕同（鄧）子恢及大批干部去豫西和劉鄧會(huì)面，建立中原軍區(qū)及中原局經(jīng)常工作”。5月28日，當(dāng)粟裕率領(lǐng)華東野戰(zhàn)軍指揮機(jī)關(guān)與軍委后勤部長(zhǎng)楊立三同行，轉(zhuǎn)往魯西南城武地區(qū)時(shí)，《陳毅傳》記載有這樣一段話：

陳毅托楊立三把繳獲的交直流電兩用的收音機(jī)一臺(tái)帶去中央送給“（周）恩來(lái)、小超（鄧穎超）”，并附一信說(shuō)：“此美國(guó)新出品、許昌戰(zhàn)斗繳獲品，你們有電燈，利用其開(kāi)動(dòng)起來(lái)十分好，兩夫婦可以在屋內(nèi)跳舞?！币簿褪窃谶@信內(nèi)，卻寫(xiě)著一句耐人尋味的話：“明日即西去，毫無(wú)企圖留部隊(duì)之意，并望將來(lái)能隨軍入川”。此信是陳毅5月29日親筆。周恩來(lái)閱后，特意親筆批轉(zhuǎn)毛澤東、劉少奇、朱德、任弼時(shí)等書(shū)記處成員傳閱。他們都圈閱了，不知是誰(shuí)還在“毫無(wú)企圖留部隊(duì)之意”這一句的旁邊用毛筆劃粗杠一道以示值得重視。

陳毅抵達(dá)中原軍區(qū)后，還說(shuō)：“東有粟裕指揮，西有劉伯承坐鎮(zhèn)，我閑著無(wú)事，就去辦一所大學(xué)吧?！?/p>

同樣，中共中央的組織大調(diào)整，粟裕也毫無(wú)思想準(zhǔn)備。在軍委和毛澤東“戰(zhàn)役指揮交粟裕負(fù)責(zé)”的明確指示下，華東野戰(zhàn)軍司令員陳毅恢弘大度，十分支持粟裕的戰(zhàn)役決策和戰(zhàn)役指揮。在戰(zhàn)役發(fā)起以后，他常常離開(kāi)指揮室，說(shuō)：“我離開(kāi)這里很必要，免得粟司令事事向我報(bào)告，延誤時(shí)間?！边@一點(diǎn)令粟裕心情舒暢。而且，陳毅在資歷上比張鼎丞更老，此次陳毅調(diào)中原，中央明確分工是管后勤，即“建立中原軍區(qū)及中原局的經(jīng)常工作”，粟裕認(rèn)為這不是陳毅的特長(zhǎng)。

因此，粟裕以其一貫的與人為善的謙抑，向毛澤東請(qǐng)求：“陳毅同志無(wú)論如何不能離開(kāi)華野?！泵珴蓶|說(shuō)：“中央已經(jīng)決定了，陳毅同志和鄧子恢同志到中原局、中原軍區(qū)工作，華野還是你來(lái)搞。”粟裕只好提出了最后的請(qǐng)求：陳毅同志在華野的司令員兼政委職務(wù)繼續(xù)保留。毛澤東沉思片刻，同意了粟裕的意見(jiàn)。此后粟裕成為華野的代司令員兼代政委。這是歷史上影響到粟裕后來(lái)評(píng)級(jí)、授銜的“二讓司令”。讓掉司令員之名，卻勇敢地?fù)?dān)負(fù)司令員之責(zé)，功名歸于他人，職責(zé)留給自己，這是何等高尚的情操！值得指出的是，這次謙讓，因無(wú)正式司令員的名義，也客觀上導(dǎo)致了粟裕知名度較低，后來(lái)戰(zhàn)功還被淡化、轉(zhuǎn)移以至于磨滅。

1948年10月下旬，在淮海戰(zhàn)役即將打響的時(shí)候，為發(fā)揮華東、中原兩大野戰(zhàn)軍的整體威力，粟裕向軍委建議，由配合華東野戰(zhàn)軍作戰(zhàn)的陳毅、鄧小平統(tǒng)一指揮淮海戰(zhàn)役。中央同意后，在此基礎(chǔ)上，又于戰(zhàn)役發(fā)起10天后組成了淮海戰(zhàn)役總前委。兩軍聯(lián)合作戰(zhàn)，最要緊的是緊密團(tuán)結(jié)與協(xié)調(diào)統(tǒng)一。由于歷史的原因，解放軍內(nèi)部是存在大大小小的山頭的。毛澤東說(shuō)，只有承認(rèn)山頭，才能消滅山頭。兩軍會(huì)合在一起作戰(zhàn)，難免會(huì)生出種種問(wèn)題。“紅一方面軍和紅四方面軍長(zhǎng)征途中懋功會(huì)師的教訓(xùn)曾令后來(lái)的部隊(duì)害怕會(huì)師。懋功會(huì)師，一方面由于張國(guó)燾的軍閥主義傾向，向黨伸手要軍權(quán)，另一方面也由于會(huì)師工作沒(méi)做好，沒(méi)有注意團(tuán)結(jié)，致使兩軍由歡呼會(huì)師很快分道揚(yáng)鑣，各奔前程?！焙茱@然，粟裕是注意到了這些方面的?；春?zhàn)役是華東野戰(zhàn)軍代司令員兼代政委粟裕建議并首先發(fā)起的，初期參加淮海戰(zhàn)役的部隊(duì)，主攻戰(zhàn)場(chǎng)是粟裕率領(lǐng)的華東野戰(zhàn)軍15個(gè)縱隊(duì)、暫歸粟裕指揮的中原野戰(zhàn)軍第11縱隊(duì)共16個(gè)縱隊(duì)。陳毅、鄧小平率領(lǐng)的中原野戰(zhàn)軍4個(gè)縱隊(duì)配合華野作戰(zhàn)。按照慣例，在一次戰(zhàn)役中，幾支部隊(duì)聯(lián)合作戰(zhàn)，一般是主要方向上的指揮員指揮次要方向上的指揮員，先打響的部隊(duì)指揮員指揮后打響的部隊(duì)指揮員，兵員多的指揮員指揮兵員少的指揮員。在中央尚未做出由誰(shuí)統(tǒng)一指揮的決定以前，粟裕主動(dòng)提出由陳毅、鄧小平統(tǒng)一指揮的建議，對(duì)于順利解決南線決戰(zhàn)的指揮問(wèn)題做出了重要貢獻(xiàn)，再次表現(xiàn)了他大公無(wú)私、光明磊落的高尚品德。針對(duì)后來(lái)有人對(duì)中原野戰(zhàn)軍不服氣的現(xiàn)象，粟裕還于1949年1月20日在華東野戰(zhàn)軍前委擴(kuò)大會(huì)議上批評(píng)：“今后在作戰(zhàn)中，我們要與兄弟野戰(zhàn)軍很好地配合，向兄弟野戰(zhàn)軍虛心學(xué)習(xí)。此次，有些同志認(rèn)為中原野戰(zhàn)軍打黃維兵團(tuán)打了多少天未打下，這種認(rèn)識(shí)是錯(cuò)誤的。……我們應(yīng)該向人家虛心學(xué)習(xí)，不容許有驕傲現(xiàn)象。在以后配合作戰(zhàn)中，大家要愿意多吃一點(diǎn)虧，愿意受人家指揮。團(tuán)結(jié)是雙方面的事情，別人要團(tuán)結(jié)，你不要團(tuán)結(jié)，就團(tuán)結(jié)不好；要尊重人家，才能團(tuán)結(jié)好?！?