8月1日凌晨，南昌起義爆發(fā)了。

劉伯承協(xié)助起義代總指揮賀龍指揮第二十軍攻占南昌舊藩臺衙門，消滅了駐在該地的國民黨第五方面軍總指揮部及其下屬部隊。

同時，劉伯承與代前敵總指揮葉挺指揮的第十一軍第二十四師等一起，完成了預定的殲敵任務，上午6時取得了南昌起義的勝利。

上午9時，在原江西省政府西花廳召開國民黨各省黨部及特別市黨部、海外黨部代表聯(lián)席會議，到會代表40余人。

劉伯承和李嘉仲以四川代表的資格出席。

會上選舉了革命委員會，下設多種機關(guān)，劉伯承擔任參謀團團長。

關(guān)于參謀團組建過程，周恩來后來回憶：“參謀團當時沒有人任主任。

后來我就指定劉伯承同志來做參謀長，他起初謙虛，不肯答應，后來我說一定要你來做，他才擔任參謀長職務?！?/p>

參謀團的成員有周恩來、賀龍、葉挺、蔡廷鍇等。

革命委員會成立后，中共前敵委員會變成了革委會的黨團，很少開會，在連日行軍作戰(zhàn)的征途中，參謀團實際上成了起義軍的領(lǐng)導中樞。

劉伯承具有謙虛的品性，政治水平高，軍事業(yè)務熟練，在他的努力下，臨時組成的參謀團，起到了良好作用。

當然，這與周恩來知人善任的領(lǐng)導才干是分不開的。

在參謀團的經(jīng)歷，也為劉伯承以后擔任中國工農(nóng)紅軍總參謀長打下了牢固的基礎。

當晚，周恩來主持參謀團委員會議。

根據(jù)中共中央關(guān)于立即南下的預定方針，討論行軍路線問題。

劉伯承參與擬定起義軍撤離南昌、進軍廣東東江地區(qū)的行動計劃和開進路線。

第二天，中共前委對起義軍初步整編，決定仍沿用國民革命軍第二方面軍名義，下轄三個軍，革命委員會任命劉伯承為參謀團參謀長。

按兵力計算有16個團，共20500人。

可是8月4日，當起義軍開始分批離南昌向臨川(撫州)進發(fā)的第二天，在左翼行進的蔡廷鍇所率的第十一軍第十師(4500人)在進賢脫逃，經(jīng)余江折往浙江。

進軍廣東東江，有兩條平行的路線，劉伯承根據(jù)周恩來的意見，不主張走大路(經(jīng)吉安、贛州、韶關(guān)、廣州進入惠州地區(qū))，他認為應該走小路去東江：“吉安、贛州等地對起義軍直接構(gòu)成威脅的敵軍達4萬，而起義軍兵力僅有2萬，發(fā)生對抗難操勝算；臨川、會昌路上僅有近3000弱敵，容易對付，即使敵人從他處調(diào)兵過來，山間行軍困難，可以各個擊破他?！?/p>

前委接受了這個建議，起義軍開始遠距離的南下進軍。

劉伯承的主要任務是協(xié)助三位軍長指揮作戰(zhàn)。

29日至30日，起義軍攻克會昌城，取得了南進途中重大勝利。

9月6日，起義軍隊到達福建長汀，19日占領(lǐng)了大埔、松口、三河壩地區(qū)。

然后，起義領(lǐng)導機關(guān)決定分兵，由朱德率第九軍教育團和第二十五師留守三河壩，對付從廣東梅縣向起義軍進攻的敵軍。

總指揮部率主力繼續(xù)向潮州、汕頭進發(fā)，23日、24日兩日起義軍分別占領(lǐng)了上述兩地。

而后，進行了第二次分兵，潮、汕由第二十軍第三師兩個團和政治保衛(wèi)處警衛(wèi)團留守，參謀團率第一師、第二師不足6000人向西奪取惠州。

9月26日至10月1日，疲憊不堪、人員彈藥得不到補充的起義軍，在揭陽縣白石、湯坑、關(guān)埠作戰(zhàn)失利，主帥周恩來得瘧疾仍在普寧縣流沙主持緊急會議，宣布不再使用國民黨革命委員會的名義，打出蘇維埃的旗幟，實行土地革命，要總結(jié)南昌起義失敗的經(jīng)驗教訓，武裝人員盡量向海陸豐撤退，其余人員分別由?？诔吠?，轉(zhuǎn)香港或上海。

劉伯承、周恩來等都分散躲藏到附近漁民家中，選擇時機相繼離去。

劉伯承、惲代英、吳玉章等人先乘船到了香港，同中共廣東省委取得了聯(lián)系。