四一二反革命政變后，葉劍英毅然放棄高官厚祿，發(fā)出“通電全國(guó)反蔣”電文，與蔣介石徹底決裂，只身到武漢，投奔中國(guó)共產(chǎn)黨。到武漢后，剛剛升任第四軍軍長(zhǎng)的張發(fā)奎，早年也在“援閩”粵軍中任職，同葉劍英是老相識(shí)。這時(shí)，他雄心勃勃，急欲網(wǎng)羅將才，邀葉劍英到第四軍軍部工作。于是，葉劍英隨第四軍參加了第二次北伐。獲勝后，從河南回師武漢，第四軍擴(kuò)充為國(guó)民革命軍第二方面軍，張發(fā)奎升任總指揮，葉劍英被正式任命為第四軍參謀長(zhǎng)，當(dāng)時(shí)軍長(zhǎng)為黃琪翔。

當(dāng)時(shí)，在國(guó)民革命軍中，第四軍的共產(chǎn)黨人和進(jìn)步青年最多，政治工作活躍。張發(fā)奎、黃琪翔對(duì)共產(chǎn)黨的態(tài)度也比較好。葉劍英在這里結(jié)識(shí)了一些共產(chǎn)黨員，多次向他們表示了跟隨共產(chǎn)黨革命的愿望。葉劍英懇切地向經(jīng)常同他交往的一位早年入黨的老黨員提出入黨要求。這位老黨員同意介紹葉劍英入黨，并向周恩來(lái)作了匯報(bào)。周恩來(lái)說(shuō)：這個(gè)人我了解，可以吸收進(jìn)黨。1927年7月上旬，黨中央批準(zhǔn)葉劍英為中國(guó)共產(chǎn)黨正式黨員。為了保密，暫時(shí)不要他和其他黨員發(fā)生聯(lián)系。葉劍英從一個(gè)追隨孫中山民主革命的國(guó)民黨高級(jí)軍官轉(zhuǎn)變成為實(shí)現(xiàn)共產(chǎn)主義奮斗終生的革命戰(zhàn)士。后來(lái)，在一次談話中，他回憶自己走過(guò)的曲折艱難的道路說(shuō)：“我自己對(duì)于共產(chǎn)主義的認(rèn)識(shí)是逐步提高的。1924年提出入黨的要求，沒(méi)有批準(zhǔn)。那時(shí)在蔣介石那里當(dāng)團(tuán)長(zhǎng)，有人說(shuō)是蔣介石嫡系部隊(duì)的團(tuán)長(zhǎng)，這沒(méi)有說(shuō)錯(cuò)。1927年四一二以后，看到共產(chǎn)黨的同志對(duì)共產(chǎn)主義有堅(jiān)定的信心，又看到蔣介石那樣反動(dòng)，我就反對(duì)蔣介石。經(jīng)過(guò)這個(gè)考驗(yàn)，決心就定了，所以1927年正式參加了黨?！?/p>

軍情急如火。葉劍英從黃琪翔那里獲悉這一消息后，連夜下山，找到葉挺，將汪精衛(wèi)等人的密謀悄悄地告訴了他。他們商定立即通知第二十軍軍長(zhǎng)賀龍、第四軍政治部主任廖乾吾以及高語(yǔ)罕，到甘棠湖煙水亭附近碰頭。他們坐在一只不大引人注目的小劃子上，以劃船賞景為掩護(hù)，共同商議對(duì)策。經(jīng)過(guò)短時(shí)間的磋商，他們決定了三件事情：（一）賀、葉不上廬山；（二）賀、葉部隊(duì)不按張發(fā)奎命令集中德安，而是開(kāi)往牛行車(chē)站到南昌去；（三）葉挺的部隊(duì)第二天先行，賀龍的部隊(duì)第三天行動(dòng)。最后，葉劍英對(duì)葉挺、賀龍、高語(yǔ)罕等說(shuō)：“你們?nèi)缬惺裁磩?dòng)作要告訴我?！睍?huì)后，賀龍、葉挺立即按計(jì)劃行動(dòng)，使汪精衛(wèi)的陰謀沒(méi)有得逞。

賀龍、葉挺“竟敢公然違抗”命令，令汪精衛(wèi)、張發(fā)奎等人大為惱火。7月29日，他們?cè)趶]山又作出了妄圖進(jìn)一步鎮(zhèn)壓和消滅共產(chǎn)黨的三條決定：（一）嚴(yán)令賀龍、葉挺限期將軍隊(duì)撤回九江；（二）封閉九江市黨部、九江書(shū)店、九江《國(guó)民新聞報(bào)》，并逮捕其負(fù)責(zé)人；（三）第二方面軍實(shí)行清共。為了把敵人的反共陰謀及時(shí)報(bào)告黨組織，葉劍英又一次秘密來(lái)到九江，找到了當(dāng)時(shí)還留在九江的二十軍黨代表，要他把一封極為火急的秘密信件，迅速轉(zhuǎn)給領(lǐng)導(dǎo)起義的黨組織。信的大意是：張發(fā)奎靠不住了，對(duì)他不能抱任何幻想；反動(dòng)的廬山會(huì)議，已作出捕殺共產(chǎn)黨人的決定，希望把握局勢(shì)，盡快舉行起義。同時(shí)，通知還留在九江的高語(yǔ)罕，說(shuō)明敵人已經(jīng)覺(jué)察他和廖乾吾的身份，勸他二人迅速離開(kāi)九江。