上海市人民代表會(huì)籌備委員會(huì)亦同時(shí)向全市發(fā)布命令：“我上海市全體市民：北伐軍將到上海，我市民急當(dāng)起來(lái)，響應(yīng)北伐軍，消滅軍閥殘余勢(shì)力，建立民眾政權(quán)——國(guó)民政府指揮下之民選市政府。茲由本會(huì)全體常務(wù)委員會(huì)會(huì)議決定3月21日正午12時(shí)起，各界市民一致動(dòng)作，宣布總同盟罷工、罷市、罷課，專(zhuān)特飛報(bào)，仰我全體市民一體遵照?qǐng)?zhí)行，不得遲延，此令?！鄙虾？偣?huì)發(fā)布了“各業(yè)工人行動(dòng)起來(lái)”行動(dòng)綱領(lǐng)?？傊笓]部設(shè)在寶山路橫浜橋南商務(wù)職工醫(yī)院內(nèi)。

3月21日正午12時(shí)，停泊江中的輪船和全市的工廠，同時(shí)拉響汽笛，幾十只系有鈴當(dāng)?shù)镍澴?，在各區(qū)騰空起飛。上海八十萬(wàn)市民總同盟罷工、罷市、罷課開(kāi)始了！“一切工廠、商店、學(xué)校、輪船、火車(chē)和市內(nèi)的一切電車(chē)、汽車(chē)、電報(bào)和電話都中斷了……整個(gè)租界立即陷入死一般的寂靜，租界內(nèi)的工人群眾和一部分店員均于一個(gè)小時(shí)前涌入華界，華界上的馬路和廣場(chǎng)都成為群眾的集合地點(diǎn)”。

由于上海已籠罩著改朝換代的空氣，許多廠主、店主都主動(dòng)關(guān)門(mén)停業(yè)，因此，罷工人數(shù)較前兩次大增。下午1時(shí)半左右，南市區(qū)打響了起義的第一槍。激烈的巷戰(zhàn)爆發(fā)了。工人糾察隊(duì)以小南門(mén)救火會(huì)鐘聲為號(hào)，分三路包圍淞滬警察廳，攻打第二區(qū)警察署和沉香閣路警察二區(qū)一分署，攻占南區(qū)街分署和鐵路南站等。下午3時(shí)，各路工人糾察隊(duì)、自衛(wèi)團(tuán)、海軍起義人員在江南造船廠及高昌廟兵工廠前會(huì)師，包圍駐廠的直魯軍，迫其全部繳械投降。

而閘北的直魯聯(lián)軍抵抗最頑強(qiáng)，出動(dòng)大炮和裝甲車(chē)，入夜仍然戰(zhàn)況激烈，槍聲通宵不止。陳獨(dú)秀擔(dān)心起義再次失利，在深夜時(shí)曾下令閘北的武裝工人撤到大場(chǎng)，以避免不必要的犧牲。但他的命令沒(méi)有被執(zhí)行。

3月22日天亮以后，工人糾察隊(duì)向北洋軍的最后據(jù)點(diǎn)北車(chē)站勇猛進(jìn)攻。附近居民都把家中的棉被、麻袋、磚石、木板送給工人糾察隊(duì)架設(shè)障礙物。各路隊(duì)伍十幾萬(wàn)人，有如浪奔潮涌，把車(chē)站團(tuán)團(tuán)圍住，經(jīng)過(guò)兩天一夜的血戰(zhàn)，暴動(dòng)工人完全占領(lǐng)北站。

當(dāng)天，上海市民代表會(huì)議召開(kāi)，宣布上海特別市臨時(shí)政府成立，由鈕永建、虞洽卿和上海商業(yè)儲(chǔ)蓄銀行總經(jīng)理陳光甫、上海商業(yè)儲(chǔ)蓄銀行董事王曉籟等19人，擔(dān)任臨時(shí)市政府委員（其中共產(chǎn)黨員九人，工人代表一人，國(guó)民黨及紳商代表共九人）。會(huì)議制定了《市政府組織條例（草案）》，規(guī)定全市最高權(quán)力機(jī)關(guān)為上海特別市市民代表會(huì)議，代表會(huì)議產(chǎn)生的政府隸屬于國(guó)民政府。以淞滬商埠公署原管區(qū)域及原有租界為范圍，上海特別市暫分為八個(gè)區(qū)。23日，推鈕永建、白崇禧、楊杏佛、王曉籟、汪壽華五人為市臨時(shí)政府常委。25日，武漢國(guó)民政府正式批準(zhǔn)任命。

對(duì)上海工人來(lái)說(shuō)，占領(lǐng)上海，只完成了一半任務(wù)，另一半是建立工人政府，這個(gè)任務(wù)落空了。武漢急急忙忙批準(zhǔn)新政府成立，其動(dòng)機(jī)與遷都武漢一樣，是想搶在蔣介石之前，造成一個(gè)既成事實(shí)，把他的去路堵上，逼他就范。至于這個(gè)政府是工人當(dāng)家，還是商人當(dāng)家，都不要緊，只要它擁護(hù)武漢政府就行。

遠(yuǎn)東局預(yù)料，“在國(guó)民革命軍抵達(dá)上海后，在這里必然會(huì)形成實(shí)際上兩個(gè)政權(quán)的局面”，他們認(rèn)為，“除了人民代表會(huì)議，不提供，至少形式上不提供建立第二政權(quán)的機(jī)會(huì)要有利的多”。 蔣介石要來(lái)，也只能納入人民代表會(huì)議。但這又是一廂情愿，蔣介石要在上海另立一個(gè)政府，根本無(wú)須別人提供機(jī)會(huì)，憑他手里的槍桿子就可以。

3月21日，白崇禧驅(qū)師入城，兵不血刃，進(jìn)駐上海華界。第一師薛岳駐守閘北，他的立場(chǎng)頗為左傾，對(duì)工人十分友好，上海一度成為赤旗飄揚(yáng)的天下。3月23日，上海召開(kāi)二十萬(wàn)人歡迎國(guó)民革命軍大會(huì)。會(huì)場(chǎng)上，大人們揮舞旗幟高唱：

打倒列強(qiáng)！打倒列強(qiáng)！

除軍閥！除軍閥！

國(guó)民革命成功！國(guó)民革命成功！

齊歡唱！齊歡唱！

小孩子們則蹦蹦跳跳，跟在大人的后面唱：

大餅油條！大餅油條！

脆麻花！脆麻花！

兩只銅板一枚！兩只銅板一枚！

刮刮叫！刮刮叫！

“革命是被壓迫者和被剝削者的盛大節(jié)日?！边@句話，他們今天算是親身體會(huì)到了。同一天，南京的北軍主動(dòng)撤走，東路軍第六軍與第二軍第四師同樣不費(fèi)一槍一彈，施施然進(jìn)駐南京。當(dāng)時(shí)東路軍一位軍人自豪地寫(xiě)道：“革命軍在一般人民心目中的聲光與欽仰，簡(jiǎn)直不可以形容，尤其是第一軍。當(dāng)時(shí)所謂五皮主義——大約是皮包、皮帶、皮靴、皮鞭、皮綁腿。青年軍人更是一般美麗女孩子們追求的對(duì)象?！?/p>

然而，處在權(quán)力高層的人們，感受就完全不同了。3月28日，李宗仁到了上海，他所目睹：“全市群眾運(yùn)動(dòng)悉為共產(chǎn)黨所操縱。工會(huì)擁有武裝糾察隊(duì)千余人，終日游行示威，全市騷然，稍不如意，便聚眾要挾，動(dòng)輒數(shù)萬(wàn)人，情勢(shì)洶洶，不可終日?！边@種場(chǎng)景，令李宗仁大感震駭，蔣介石也“認(rèn)為上海情形已無(wú)法收拾”，面色沮喪地連呼：“我不干了，我不干了?！?/p>