1942年底，譚平山在周恩來(lái)、董必武的啟發(fā)幫助下，通過(guò)甘祠森穿梭于政界、教育界、工商界，聯(lián)絡(luò)陳銘樞、楊杰等進(jìn)步人士，發(fā)起組織了“民主同志座談會(huì)”，以座談國(guó)內(nèi)外時(shí)事為名義，團(tuán)結(jié)教育國(guó)民黨內(nèi)民主分子堅(jiān)持抗日?！巴ㄟ^(guò)座談會(huì)，大家交了許多朋友，為民聯(lián)的建立打下了組織基礎(chǔ)。民聯(lián)的第一批成員，主要是從座談會(huì)中挑選的”。這些人，“政治認(rèn)識(shí)上明顯有進(jìn)步，有些原來(lái)對(duì)共產(chǎn)黨懷疑很重，對(duì)進(jìn)步力量采取疏遠(yuǎn)態(tài)度的人，慢慢改變了態(tài)度”。

抗戰(zhàn)勝利后，1945年10月，在“民主同志座談會(huì)”的基礎(chǔ)上，正式成立了“三民主義同志聯(lián)合會(huì)”（簡(jiǎn)稱(chēng)“民聯(lián)”），譚平山、陳銘樞、楊杰、柳亞子等七人當(dāng)選為中央常務(wù)干事，主持民聯(lián)日常工作。民聯(lián)的成立，使譚平山有了一個(gè)比較可靠的反蔣陣地，宣布：“我現(xiàn)在和蔣介石、國(guó)民黨一刀兩斷，絕不參加他們的一切活動(dòng)。他們?nèi)绻肫群ξ?，在重慶呆不下去，我可以去解放區(qū)。”

1946年5月，譚平山與李濟(jì)深、馮玉祥等乘“民聯(lián)”號(hào)輪船，離開(kāi)重慶前往上海。譚平山在上海繼續(xù)反對(duì)國(guó)民黨蔣介石的專(zhuān)制獨(dú)裁統(tǒng)治，因此國(guó)民黨特務(wù)分子加強(qiáng)了對(duì)他的監(jiān)視，并伺機(jī)下毒手。有一次，譚平山偕夫人上街，一個(gè)特務(wù)騎著自行車(chē)迎面撞來(lái)，其夫人當(dāng)即被撞倒，腳部受傷，譚平山因走在后面得以幸免。1947年春，有人告訴譚平山，蔣介石想干掉他，勸他趕快離開(kāi)上海。譚平山感到在上海已難以立足，不得不化裝出走香港。

譚平山到達(dá)香港后，立即與逃亡出來(lái)的民主人士結(jié)合起來(lái)，繼續(xù)進(jìn)行反蔣活動(dòng)。1947年底，譚平山出席了在香港召開(kāi)的國(guó)民黨民主派第一次代表大會(huì)，并當(dāng)選為大會(huì)主席團(tuán)成員。1948年元旦，中國(guó)國(guó)民黨革命委員會(huì)在香港成立，譚平山當(dāng)選為中央常務(wù)委員，成為民革的重要?jiǎng)?chuàng)始人。

1948年4月30日，中共“五一口號(hào)”發(fā)布后，譚平山表示堅(jiān)決擁護(hù)和熱烈響應(yīng)，并在香港《華商報(bào)》發(fā)表《適時(shí)的號(hào)召——論中共“五一”節(jié)口號(hào)》一文，深刻闡釋了中共“五一口號(hào)”的重要意義。隨后，周恩來(lái)特別指示譚平山，要以民主黨派身份帶動(dòng)其他民主人士北上解放區(qū)。譚平山隨即身體力行，應(yīng)中共之邀首批踏上了北上解放區(qū)的旅途。