回到南京后，陳誠在夫人譚祥陪同下到上海國防醫(yī)學院住院治療胃玻美國醫(yī)生診斷后，認為保守治療很難康復，必須手術治療。

3月25日，東北解放軍的冬季攻勢結束。此役共殲滅國民黨軍五萬八千余人，切斷了北寧鐵路，攻克了戰(zhàn)略要地四平，以及遼陽、鞍山，迫使營口暫58師火線起義。國民黨在東北的軍隊和政權岌岌可危。就在國民黨政府四面楚歌的形勢下，3月29日，“國民大會”在南京開幕。

身為國大代表的陳誠因為在上海治病，沒有出席大會，但成了被攻擊的靶子。代表們的責難聲不絕于耳：“請政府殺陳誠以謝國人１“諸葛亮揮淚斬馬謖，我們要求蔣主席演這出戲１“不讓陳誠逃往美國１“到上海把陳誠扣留起來解京法辦１……各大報也以“借人頭，平民憤”為標題繪聲繪色地作了報道。4月21日，“請政府嚴辦參謀總長案”提交大會討論，并獲得一致通過。一些代表的指責，如不該過早裁軍、不該拒絕收編偽軍、東北用兵不當?shù)鹊?，頗有“專業(yè)性”。

蔣介石并沒有因為代表的聲討而嚴辦陳誠，而是“人性化”地面示陳誠以養(yǎng)病為由提出辭呈，然后予以批準。5月13日，陳誠辭去了參謀總長、東北行轅主任兼海軍總司令等職務（分別由顧祝同、衛(wèi)立煌和桂永清接任）。這樣的處理方式給陳誠和蔣介石都留了面子。

聽到與會代表的責怪，陳誠也有一肚子的委屈和牢騷。雖在大會期間未公開申辯，但在4月14日給林蔚的信中，他還是忍不住為自己作了申訴。

關于“整軍”問題，他申訴道：“此問題之政策與原則，均在弟未到中央以前所決定。弟到中央僅負執(zhí)行之責。而當時實際負責執(zhí)行者，尚在陸軍總部。此事就政策言，絕對正確。就執(zhí)行言，亦并無多大錯誤。然今日反對整軍者，亦即當日反對中央不整軍之人。出爾反爾，所謂偽君子，最難處，其此輩之謂乎？弟尚記得，當大家均認為整軍絕對需要，但絕對困難，而不整軍，則絕對危險……再檢討整軍，究竟裁了多少兵？實際上，只是裁并機關與空單位而已。換一句話講，如不裁并機關與空單位，如何充實國軍？同時國家財政如此困難，人民生活如此痛苦，能否負擔720萬人虛額的糧餉？”

關于“收編偽軍”問題，他申訴道：“此問題當時確有人建議，但全部收編，事實上大有問題，以弟所能記憶者：何以對抗戰(zhàn)之國軍？何以對被壓迫殘殺之民眾？何以維持國家民族之正氣？以上三項，姑不計，再就軍費一項言，自抗戰(zhàn)結束后，決定國家總預算原則，所謂收支平衡，所謂軍費不得超過總預算百分之五十，以連年軍費言，非但不能收編偽軍，而且僅有之國軍，亦不能養(yǎng)活，其他可知矣?！?/p>

關于“國軍之失利”問題，他在回復林蔚信中申訴道：“此中不能告人之事，實在太多。僅就山東與東北言，山東軍事失敗，莫過于新泰萊蕪之役，此役之計劃，究竟誰建議于主席，主席如何決定，弟在徐州，均無所聞。吾人絕不怨天尤人，應就事論事，吾人絕不愿與偽君子計較。再就東北問題言，如要算賬，應由雅爾達三巨頭會議與政協(xié)會議算起，而軍事只能算末節(jié)……弟深知是火坑，最后只有跳下去。但當時經再三請示主席，非即增加兩個軍，不能使在東北之國軍，能爭取時間，稍加整頓。當時主席已應允，決抽調兩個軍，增援東北。結果被人阻撓，僅遣將而不派兵……”①

陳誠把怨氣都撒在政敵身上。他對蔣介石并非沒有一點怨氣，而是敢怒不敢言。因為他知道他得罪的政要太多，在墻倒眾人推的境遇下，只有蔣能夠保他。事實上，蔣介石后來不僅保了陳誠，還繼續(xù)重用了他。

客觀地說，國民黨在戰(zhàn)場上的失敗，陳誠作為蔣介石的高級幕僚、參謀總長，難辭其咎，盡管蔣介石常常直接指揮參戰(zhàn)將領。不過，要求陳誠對一些重大決策全盤負責，也有失公允，因為這些決策大多是集體作出，并由蔣批準的。將戰(zhàn)場失利歸咎于裁軍和拒收偽軍等決策的執(zhí)行，也不完全與事實相符。