隨著馬克思主義在中國的廣泛傳播和一批確立了馬克思主義信仰的先進分子的出現(xiàn)，在中國成立共產黨組織的思想和干部條件已經具備，建立工人階級政黨的任務被提上了日程。

最早醞釀在中國建立共產黨的是陳獨秀和李大釗。他們逐步認識到，要用馬克思主義改造中國，就必須建立一個無產階級政黨，使其充當革命的組織者和領導者。1920年2月，為躲避反動軍閥政府的迫害，陳獨秀從北京秘密遷移到上海。在護送陳獨秀離京途中，李大釗和他商討了在中國建立共產黨組織的問題。

1920年3月，李大釗在北京大學組織成立馬克思學說研究會。這既是中國最早的學習和研究馬克思主義的團體，也為建黨作了重要準備。4月，俄共(布)代表維經斯基等來華。他們先后在北京、上海會見李大釗、陳獨秀，討論建立共產黨的問題。這對于中國共產黨的創(chuàng)建起了一定的促進作用。

中國共產黨早期組織，是在中國工人階級最密集的中心城市上海首先建立的。1920年5月，陳獨秀發(fā)起組織馬克思主義研究會，探討社會主義學說和中國社會改造問題。8月，共產黨早期組織在上?！缎虑嗄辍肪庉嫴砍闪ⅲ惇毿闳螘?。11月，共產黨早期組織擬定了《中國共產黨宣言》指出“共產主義者的目的是要按照共產主義者的理想，創(chuàng)造一個新的社會”。在上海成立的共產黨早期組織，實際上是中國共產黨的發(fā)起組織，是各地共產主義者進行建黨活動的聯(lián)絡中心。

1920年10月，李大釗等在北京成立共產黨早期組織，當時稱“共產黨小組”。同年底決定成立共產黨北京支部，李大釗為書記。

在上海及北京黨組織的聯(lián)絡推動下，各地黨的早期組織紛紛建立起來。1920年秋至1921年春，董必武、陳潭秋、包惠僧等在武漢，毛澤東、何叔衡等在長沙，王盡美、鄧恩銘等在濟南，譚平山、譚植棠等在廣州，成立了共產黨早期組織。在日本、法國，成立了由留學生和華僑中先進分子組成的共產黨早期組織。

各地共產黨早期組織成立后，開展了大量的工作。主要思主義思潮展開論戰(zhàn)，幫助一批進步分子劃清社會主義同資有：研究和宣傳馬克思主義，研究中國實際問題；同反馬克本主義的界限、科學社會主義同其他社會主義流派的界限，走上馬克思主義道路；在工人中進行宣傳和組織工作，使工人開始接受馬克思主義的教育，提高階級覺悟；成立社會主義青年團組織，組織團員學習馬克思主義，參加實際斗爭，為黨培養(yǎng)造就后備力量。

在建黨的思想理論準備中，《共產黨宣言》起了十分重要的作用。1920年2月，陳望道為翻譯《共產黨宣言》，秘密回到浙江義烏自己家中。他在潛心翻譯時，把粽子蘸著墨汁吃掉卻渾然不覺，還說：“夠甜，夠甜的了!”“真理的味道非常甜”，這彰顯了中國的共產主義者對馬克思主義救國真理的渴求，對共產主義理想的堅定信念。1920年8月，《共產黨宣言》中文全譯本出版，成為馬克思主義在中國傳播史上的一件大事。