陳獨(dú)秀當(dāng)選中央局書記后，不宜繼續(xù)留在廣東政府任職，于9月中旬返回上海，開始全力以赴主持中共中央的領(lǐng)導(dǎo)工作，沒想到卻與馬林產(chǎn)生分歧。

馬林認(rèn)為，“第三國際是全世界共產(chǎn)主義運(yùn)動的總部，各國共產(chǎn)黨都是第三國際的支部，中共的工作方針、計劃應(yīng)在第三國際的統(tǒng)一領(lǐng)導(dǎo)之下進(jìn)行”。

陳獨(dú)秀則認(rèn)為，“中國共產(chǎn)黨尚在幼年時期，一切工作尚未開展，似無必要戴上第三國際的帽子，中國的革命有中國的國情”。加上馬林以共產(chǎn)國際代表的身份居高臨下，盛氣凌人，令陳獨(dú)秀心中十分不快。

尤其馬林在未經(jīng)陳獨(dú)秀同意的情況下，私自派張?zhí)赘叭毡韭?lián)絡(luò)有關(guān)事宜，完全不把陳獨(dú)秀這個書記放在眼里。當(dāng)陳獨(dú)秀返滬后聽了張國燾等人對此事的匯報，氣得公開表示，絕不與馬林見面，并打算向共產(chǎn)國際要求撤換馬林的職務(wù)。

然而，陳獨(dú)秀回滬不久，便引起了法租界巡捕房的注意。10月4日下午2時左右，陳獨(dú)秀正在二樓休息，高君曼與來訪的楊明齋、包惠僧、柯慶施三人在一樓玩牌，突然有幾名“白相人”闖入住宅，嚷嚷著要買《新青年》。高君曼見他們可能是要鬧事，好言勸說：“這里不賣《新青年》，陳先生也不在家，你們還是去別處看看吧?！?/p>

來人竟繞過高君曼，三步并作兩步直奔墻角堆放《新青年》的地方，大聲說：“這不是有嗎，明明就在賣"

陳獨(dú)秀被樓下聲音驚醒，仔細(xì)一聽不對勁，忙輕手輕腳下樓，打算從后門逃走。不料后門處早有人把守，陳獨(dú)秀被堵了回來。接著巡捕房的汽車開到門口，陳獨(dú)秀、高君曼和來訪的三名客人全部被送到法租界巡捕房。

陳獨(dú)秀被捕后，馬林積極營救，花重金請來當(dāng)時上海灘赫赫有名的法國律師巴和為陳獨(dú)秀辯護(hù)。10月26日，公審公堂對陳獨(dú)秀一案作出判決：“搜獲書籍雖多，尚無激烈言論。惟查出《新青年》有違前次堂諭，判罰一百元了案”。

陳獨(dú)秀獲釋后，得知馬林設(shè)法營救，非常感動，不久主動拜訪馬林，表示擁護(hù)共產(chǎn)國際，馬林則表示在中國的一切工作由中央領(lǐng)導(dǎo)，兩人達(dá)成諒解，握手言和。但好景不長，1922年4月馬林從南方考察歸來，陳獨(dú)秀登門拜訪時，兩人就國共合作問題再生齟齬。當(dāng)時馬林正在起草給共產(chǎn)國際執(zhí)行局的報告，見到陳獨(dú)秀，馬林興致勃勃地說：

“這次南方之行收獲甚大，關(guān)于中國運(yùn)動及前景，在上海我聽到的都是消極的，在南方我卻看到卓有成效的工作。”

陳獨(dú)秀聽后不由得為之一怔，想起半年前馬林派包惠僧南下廣州接陳回滬前曾指出：陳獨(dú)秀作為中國共產(chǎn)黨的書記，不應(yīng)在資產(chǎn)階級政府里做官，國際上沒有這樣的先例。如今卻對這個資產(chǎn)階級政府大加贊賞，認(rèn)為孫中山、陳炯明在南方所做的一切，正是中國革命所不可缺少的，中國共產(chǎn)黨誕生得太早了！

“在這種情況下，共產(chǎn)黨應(yīng)盡快與國民黨合作?！瘪R林堅決地說。

“怎么合作呢？”

陳獨(dú)秀不想再與馬林發(fā)生不快，盡可能表現(xiàn)得平靜。但馬林還是從陳獨(dú)秀的目光中，看到了抵觸情緒，于是用盡可能輕松的口氣說：

“我建議，共產(chǎn)黨以加入國民黨的方式，與國民黨徹底合作?！?/p>

“加入？”陳獨(dú)秀原本性格狷急，這時候再也控制不住了，憤憤地說，“你不過是看了一個廣東省，而且是個表面！國民黨內(nèi)部四分五裂，勾心斗角，聯(lián)合軍閥，勾結(jié)土匪，最善于投機(jī)取巧，爭權(quán)奪利?！?/p>

正因?yàn)殛惇?dú)秀對國民黨以及其前身革命黨人抱有成見，因而他早年拒絕參加同盟會，也沒有參加辛亥革命。馬林對陳獨(dú)秀激烈的反應(yīng)大為震驚，認(rèn)為陳獨(dú)秀對國民黨抱有成見，太過偏激。隨后就此問題征求上海、北京、廣州、武漢、長沙等地黨內(nèi)人士的意見，對共產(chǎn)黨加入國民黨大都持反對意見。