四一二反革命政變后，葉劍英毅然放棄高官厚祿，發(fā)出“通電全國反蔣”電文，與蔣介石徹底決裂，只身到武漢，投奔中國共產(chǎn)黨。到武漢后，剛剛升任第四軍軍長的張發(fā)奎，早年也在“援閩”粵軍中任職，同葉劍英是老相識。這時，他雄心勃勃，急欲網(wǎng)羅將才，邀葉劍英到第四軍軍部工作。于是，葉劍英隨第四軍參加了第二次北伐。獲勝后，從河南回師武漢，第四軍擴充為國民革命軍第二方面軍，張發(fā)奎升任總指揮，葉劍英被正式任命為第四軍參謀長，當時軍長為黃琪翔。

當時，在國民革命軍中，第四軍的共產(chǎn)黨人和進步青年最多，政治工作活躍。張發(fā)奎、黃琪翔對共產(chǎn)黨的態(tài)度也比較好。葉劍英在這里結識了一些共產(chǎn)黨員，多次向他們表示了跟隨共產(chǎn)黨革命的愿望。葉劍英懇切地向經(jīng)常同他交往的一位早年入黨的老黨員提出入黨要求。這位老黨員同意介紹葉劍英入黨，并向周恩來作了匯報。周恩來說：這個人我了解，可以吸收進黨。1927年7月上旬，黨中央批準葉劍英為中國共產(chǎn)黨正式黨員。為了保密，暫時不要他和其他黨員發(fā)生聯(lián)系。葉劍英從一個追隨孫中山民主革命的國民黨高級軍官轉(zhuǎn)變成為實現(xiàn)共產(chǎn)主義奮斗終生的革命戰(zhàn)士。后來，在一次談話中，他回憶自己走過的曲折艱難的道路說：“我自己對于共產(chǎn)主義的認識是逐步提高的。1924年提出入黨的要求，沒有批準。那時在蔣介石那里當團長，有人說是蔣介石嫡系部隊的團長，這沒有說錯。1927年四一二以后，看到共產(chǎn)黨的同志對共產(chǎn)主義有堅定的信心，又看到蔣介石那樣反動，我就反對蔣介石。經(jīng)過這個考驗，決心就定了，所以1927年正式參加了黨?！?/p>

軍情急如火。葉劍英從黃琪翔那里獲悉這一消息后，連夜下山，找到葉挺，將汪精衛(wèi)等人的密謀悄悄地告訴了他。他們商定立即通知第二十軍軍長賀龍、第四軍政治部主任廖乾吾以及高語罕，到甘棠湖煙水亭附近碰頭。他們坐在一只不大引人注目的小劃子上，以劃船賞景為掩護，共同商議對策。經(jīng)過短時間的磋商，他們決定了三件事情：（一）賀、葉不上廬山；（二）賀、葉部隊不按張發(fā)奎命令集中德安，而是開往牛行車站到南昌去；（三）葉挺的部隊第二天先行，賀龍的部隊第三天行動。最后，葉劍英對葉挺、賀龍、高語罕等說：“你們?nèi)缬惺裁磩幼饕嬖V我?！睍?，賀龍、葉挺立即按計劃行動，使汪精衛(wèi)的陰謀沒有得逞。

賀龍、葉挺“竟敢公然違抗”命令，令汪精衛(wèi)、張發(fā)奎等人大為惱火。7月29日，他們在廬山又作出了妄圖進一步鎮(zhèn)壓和消滅共產(chǎn)黨的三條決定：（一）嚴令賀龍、葉挺限期將軍隊撤回九江；（二）封閉九江市黨部、九江書店、九江《國民新聞報》，并逮捕其負責人；（三）第二方面軍實行清共。為了把敵人的反共陰謀及時報告黨組織，葉劍英又一次秘密來到九江，找到了當時還留在九江的二十軍黨代表，要他把一封極為火急的秘密信件，迅速轉(zhuǎn)給領導起義的黨組織。信的大意是：張發(fā)奎靠不住了，對他不能抱任何幻想；反動的廬山會議，已作出捕殺共產(chǎn)黨人的決定，希望把握局勢，盡快舉行起義。同時，通知還留在九江的高語罕，說明敵人已經(jīng)覺察他和廖乾吾的身份，勸他二人迅速離開九江。