隨著馬克思主義的廣泛傳播，新民學會會員中，在國內以毛澤東為代表，在國外以蔡和森為代表，涌現了一批馬克思主義者。由于政治思想覺悟的迅速提高，他們從俄國十月革命經驗中，已經認識到一個馬克思主義的政黨在無產階級的革命事業(yè)中所起的重要作用，很快地產生了建立共產黨的要求，并就建黨問題展開了討論。

1920年7月，蔡和森在蒙達尼會議上，在實現“改造中國與世界”目的的方法上與蕭子升等產生分歧。后于1920年8月13日和9月16日，連續(xù)兩次寫長信給在長沙的毛澤東，闡述他主張建立共產黨，走俄國人的道路的主張。

在蔡和森提出建黨問題的同時，毛澤東也從研究俄國十月革命的經驗中，意識到建立一個列寧式的布爾什維克黨的重要性。他在1920年9月5日發(fā)表在湖南《大公報》上的一篇文章中說，俄國革命所以能成功，在于“列寧之以百萬黨員，建平民革命的空前大業(yè)，掃蕩反革命黨，洗刷上中階級，有主義(布爾失委克斯姆)，有時機(俄國戰(zhàn)敗)，有預備，有真正可靠的黨眾，一呼而起，下令于流水之原，不崇朝而占全國人數十分之八九的勞農階級，如斯響應。俄國革命的成功，全在這些處所?！泵珴蓶|接到蔡和森的信后，十分高興，對信中提出的用俄式的方法，組織共產黨，實行無產階級專政的主張“表示深切的贊同。”他在1921年1月21日的復信中說：你的信“見地極當，我沒有一個字不贊成。”并說：“唯物史觀是吾黨哲學的根據，這是事實，不像唯理觀之不能證實而容易被人動搖”。信中向蔡和森傳遞了國內有關建黨活動的情況，“黨一層，陳仲甫等已在進行組織。出版物一層，上海出的《共產黨》，你處諒可得到。頗不愧‘旗幟鮮明’四字?！?/p>

1920年8月，陳獨秀、李達等在上海成立共產主義小組。這是中國第一個共產主義小組，它成為創(chuàng)建全國統一的無產階級政黨的活動中心。據李達回憶，上海共產主義小組成立后，由陳獨秀、李漢俊找關系，“在湖南由毛澤東負責”。受陳獨秀的委托，毛澤東和何叔衡等經過醞釀籌備，于10月、11月間，創(chuàng)建了長沙共產主義小組。當時成員還有彭璜、賀民范等，共6人。

長沙共產主義小組成立后，十分注重馬克思主義的宣傳和開展工人運動。毛澤東、何叔衡等除了運用文化書社和俄羅斯研究會擴大宣傳新思想、宣傳馬克思主義外，已開始注意將馬克思主義灌輸到工人群眾中去。1920年秋，毛澤東利用擔任第一師范附小主事的便利條件，開辦了一所工人夜校，同時還辦了一個工農子弟補習班，招收18歲以上的失學青年。夜校除學習文化外，則還重點向工人群眾傳播馬克思主義的基本常識，實行啟蒙教育。1920年11月7日，毛澤東等以新民學會會員為骨干，組織長沙工人、學生舉行游行，慶祝俄國十月革命三周年。

1920年11月21日，湖南勞工會成立。它的成立得到毛澤東、何叔衡、彭璜等的支持和幫助。1921年三四月間，該會領導了湖南第一紗廠收歸國有的運動，5月1日，勞工會的工人和一部分學生在湖南一師舉行勞動節(jié)晚會。大會進行講演、游藝等活動，在紀念面包上印有“勞工神圣”、“不作工者不得食”等字樣。勞工會的領導人黃愛、龐人銓曾受無政府主義的影響，后來在毛澤東的影響下，脫離無政府主義的影響，接受馬克思主義，并參加社會主義青年團。

建立和發(fā)展社會主義青年團，是長沙共產主義小組成立以后進行的一項重要工作，毛澤東為此花費很大精力，做了大量的工作。1920年8月，上海第一個成立了社會主義青年團。10月，毛澤東接到從上海等地寄來的社會主義青年團章程后，立即開始籌建長沙社會主義青年團，他積極地在湖南第一師范、商業(yè)專科學校、第一中學學校的先進學生中，尋找團員的對象。當時湖南一師附屬學校的進步學生張文亮，在日記中記載：

11月17日。接澤東一信，送來青年團章程十份，宗旨在研究并實行社會改造。約我星期日上午去見他，并托我代覓同志。

11月21日。會見毛(在通俗館)，云不日將赴醴陵考察教育，并囑青年團此時宜注重找真同志；只宜從緩，不可急進。

12月2日。澤東來此。他說，青年團等仲甫來再開成立會?？煞謨刹竭M行：一、研究；二、實行。并囑咐多找同志。

12月15日。接澤東復信……(三)師范素無校風，你應努力結些同志做中堅分子，造成一種很好的校風。(四)青年團你可努力在校制造團員，盡可能于本學期開一次會。

12月16日。澤東來此。青年團將于下周開成立會。

12月17日。澤東送來《共產黨》九本。

在毛澤東的努力下，在“多找真同志”這樣一個積極而又慎重的方針下，長沙建團工作健康順利地發(fā)展。一些新民學會會員也參加了青年團。從10月到12月，3個月內就在湖南發(fā)展20來名團員，建立了團的基層組織。1921年上半年，長沙的青年團員已發(fā)展到近40人，是全國團員較多的地區(qū)之一。

上海率先成立共產主義小組以后，除長沙外，北京、武漢、廣州、濟南等地也建立了共產主義小組，在法國和日本的中國留學生和僑民中也建立了這樣的小組。

1921年6月上旬，共產國際代表威經斯基等到達上海，會見李達等，建議及早召開全國代表大會，宣告中國共產黨成立。上海共產主義小組擔負發(fā)起建立中國共產黨的任務。隨即，他們致函各地共產主義小組，各派代表2人于7月間到上海開會。

毛澤東接到上海發(fā)來的開會通知后，與何叔衡作為長沙共產主義小組的代表，于6月29日離開長沙前往上海，參加中國共產黨第一次全國代表大會。7月初，到達上海。

7月23日至8月初，中國共產黨第一次全國代表大會舉行。毛澤東、何叔衡、董必武、陳潭秋、王盡美、鄧恩銘、李達、李漢俊、張國燾、劉仁靜、周佛海、陳公博12名代表出席，他們代表了全國50多名黨員。共產國際遠東局書記處代表尼克爾斯基出席了會議，陳獨秀指派的代表包惠僧也參加了大會。會議由張國燾主持，毛澤東和周佛海任記錄。開會地址在上海望志路106號。因會議中間突然遭到暗探偵察，出于安全考慮，隨后轉移到浙江嘉興南湖，在游船上繼續(xù)開會。

大會經過充分討論，通過中國共產黨的第一個黨綱，確定黨的名稱為中國共產黨。規(guī)定黨奮斗目標是：以無產階級革命軍隊推翻資產階級，由勞動階級重建國家，直到社會的階級區(qū)分消除為止；承認無產階級專政，直到消滅社會的階級區(qū)分；消滅資本家私有制，沒收機器、土地、廠房和半成品等生產資料，歸社會公有。大會還通過關于當前實際工作的決議，確定黨成立后的中心任務是組織工會，領導工人運動。大會選舉陳獨秀、張國燾、李達組成中央局，陳獨秀為中央局書記。

一大閉幕后，1921年8月，毛澤東回到長沙，積極進行建立湖南地方黨組織的工作。他和何叔衡、彭平之、陳子博、易禮容等人經常在一起討論組織湖南共產黨的問題。10月10日，中國共產黨湖南支部建立，毛澤東任書記，委員有何叔衡、易禮容等，黨員有彭璜、郭亮、彭平之、陳子博等10人。這是中國共產黨第一個省級組織。毛澤東采取積極、慎重的建黨方針，一方面從社會主義青年團內個別地吸收先進青年團員入黨，同時注意發(fā)展工人運動中的先進分子入黨。毛澤東和中共湖南支部成員多次到長沙湖南第一師范、省立一中、長郡中學、商業(yè)?？茖W校進行工作，發(fā)展黨員，建立支部，毛澤東還親自赴安源、衡陽等地發(fā)展黨員，建立組織。毛澤東和中共湖南支部陸續(xù)在長沙、安源、衡陽建立了三個黨支部，有黨員30余人。按照中共中央的規(guī)定，1922年5月底，中共湘區(qū)執(zhí)行委員會正式成立，毛澤東任書記，委員有何叔衡、易禮容、李立三等。湘區(qū)委機關設在長沙清水塘22號。1923年4月，毛澤東奉調黨中央工作后，李維漢接任湘區(qū)委書記。