孫中山對(duì)創(chuàng)辦黃埔軍校更是寄于了很大希望，他試圖按照蘇聯(lián)紅軍的模式建立一支新型的軍隊(duì)，然后完成他的北伐大計(jì)。所以，他不會(huì)批準(zhǔn)蔣介石的辭呈。蔣介石離開廣州之后，孫中山讓廖仲愷接任黃埔軍校籌備委員長一職。廖仲愷一面抓緊籌備工作，一面電告蔣介石：“黨事詎可因兄而敗，已代告假半月。來滬之軍官學(xué)生，請(qǐng)即將近考驗(yàn)，事竣即歸。”

大致就在這個(gè)時(shí)候，應(yīng)邀來黃埔軍校的第一批蘇聯(lián)軍事顧問抵達(dá)廣州，包括捷列沙托夫、切列潘諾夫、格爾曼、波里亞克。他們于1月下旬拜會(huì)了孫中山。在禮節(jié)性的問好之后，孫中山和盤托出了他創(chuàng)辦黃埔軍校的意圖。他說，中國人民最惡毒、最強(qiáng)大的敵人是帝國主義，他們豢養(yǎng)著中國的軍閥，如果我們把帝國主義趕出中國，那么，我們就不必費(fèi)多大的力氣，就可以打倒國內(nèi)的敵人。因此，“我們的首要任務(wù)是按照蘇聯(lián)式樣建立一支軍隊(duì)，準(zhǔn)備好北伐的根據(jù)地?！彼?dāng)即表示：“在現(xiàn)今的革命斗爭中，十分需要學(xué)習(xí)俄國人?！彼ＭK聯(lián)軍事顧問把本國反對(duì)帝國主義武裝干涉、并把他們趕出去的豐富經(jīng)驗(yàn)傳授給黃埔軍校的學(xué)生。

2月29日，孫中山親自致電蔣介石，希望他立即返回廣州，切勿延誤。此后，廖仲愷又連續(xù)七次電告蔣介石。在3月24日的電報(bào)中，廖仲愷勸告蔣介石，為避免使孫中山受到“精神上痛苦”，請(qǐng)“即行”。在孫中山、廖仲愷的反復(fù)催促下，4月26日，蔣介石回到廣州，并于當(dāng)天在黃埔軍校發(fā)表訓(xùn)話。他說，黃埔軍校是國民黨培植干部，擴(kuò)展本黨勢(shì)力，實(shí)行三民主義，使中國成為一個(gè)真正的獨(dú)立國家，使中國的民族成為一個(gè)真正的自由民族。

5月3日，孫中山任命蔣介石為黃埔軍校校長。兩天之后，黃埔軍校開學(xué)。第一期學(xué)生有500人，其中工人、農(nóng)民和城市小資產(chǎn)階級(jí)家庭出身的人占了大多數(shù)，中共黨員和共青團(tuán)員有80多人。

黃埔軍校參照蘇聯(lián)紅軍制度辦學(xué)，設(shè)立了黨代表和政治部等機(jī)構(gòu)，實(shí)行軍事教育同政治教育并種的教學(xué)方針，并且制定了一套政治工作制度。蘇聯(lián)顧問和中國共產(chǎn)黨人共同制定了政治教學(xué)大綱。不僅如此，蘇聯(lián)還向黃埔軍校提供了200萬盧布的開辦經(jīng)費(fèi)。

國民黨的改組與第一次全國代表大會(huì)的召開，莫斯科終于下決心援助孫中山。這種援助不僅是精神方面的，還有物質(zhì)上方面的，包括人力、武器和財(cái)力。黃埔軍校的創(chuàng)建，就是這種援助的結(jié)果。孫中山同蘇聯(lián)的友好關(guān)系由此建立起來。這時(shí)候的蔣介石至少在表面上已不再公開反對(duì)國民黨同莫斯科的聯(lián)合了，而是在各種場合下贊揚(yáng)蘇聯(lián)共產(chǎn)黨和紅軍。