远在莫斯科的共产国际继派出马林之后不断地派出代表来中国，急于促成国共两党合作，但他们没想到作为共产国际领导下的一个支部——中国共产党，也许是因为刚刚成立，对共产主义理论研究并不深入，也许是对中国革命的发展规律、中国社会各阶级、各党派的状况以及组织革命统一战线的必要性与可能性都缺乏认识，在马林离开中国后便开始反对共产国际提出的国共合作的建议，当时有独立自主倾向的中国共产党的主要领导人都表示反对。
1922年5月，第一次直奉战争结束第二天，因北伐受阻而回到广州的孙中山任命李烈均为北伐总司令，许崇智为总指挥，改设大本营于韶关督师北伐（孙中山的第一次北伐，对象是直系）。北伐军即分3路向江西进击。江西是当时北洋政府执政的直系在华南统治力量最薄弱的省份，一经北伐军进攻，即迅速溃败，北伐军一举攻占了江西南部重镇赣州，直系军阀陈光远弃职逃窜。接着北伐军乘胜追击，又攻占吉安，威胁省会南昌，整个江西指日可以平定。后来因陈炯明叛乱而失败。
孙中山的北伐行动及良好的革命局面，使共产党对国民党有了新的认识，加之中国共产党对共产主义和中国社会的认识不断加深，开始接受列宁和共产国际关于民族和殖民地革命的基本思想，明确现阶段中国革命只能是反帝反封建的民族民主革命，形成了“与小资产阶级结成广泛的统一战线是必要的”的认识。基于这种认识，中国共产党在《第一次对于时局的主张》中就指出：在中国现有各政党中，“只有国民党比较是革命的党派，比较是真正的党派”。不久，陈独秀再次给维经斯基写信，信中改变了过去的看法，表示“我们很希望孙中山派之国民党能觉悟改造，能和我们携手”，希望尽快建立起国内联合战线。
共产国际得到这个信息之后，在1922年8月初，又派马林匆匆赶回中国，在杭州又召开一次中国共产党特别会议，宣布共产国际的训令。这个训令是由马林自己起草的，据托洛茨基说，由于那时列宁正患病，共产国际主席季诺维也夫便和斯大林商量，他们都表示同意此训令。训令《给共产国际驻中国特派代表的指示》的具体内容：一是根据马林的报告，代表的所有活动必须以共产国际第二次代表大会关于殖民地问题决议为基础。二是共产国际执委会认为国民党是一个革命的政党，这个政党坚持辛亥革命的使命，并渴望建立一个独立的政权。三是中国共产党人为完成他们的任务，必须在国民党内部和工会中组成从属于他们自己的团体。在这些团体之外，建议成立一个宣传机构，宣传与外国帝国主义作斗争、创建民族独立的思想以及组织反对中外剥削者的阶级斗争的主张。四是这一机构的建立要尽可能地得到国民党的同意，当然，它应保持完全的独立性。由于国民党在南方政府中负实际责任，它暂时需要避免与帝国主义国家发生冲突。
1922年8月间，马林同越飞一起来到中国。1923年1月1日，苏维埃社会主义共和国联盟（苏联）已正式成立。1923年1月16日，共产国际正式作出关于中国共产党和孙中山领导的中国国民党合作的决定。
1923年2月21日，孙中山在平定陈炯明叛乱之后，第三次在广州建立与北京政府对立的政权，重建陆海军大元帅大本营，并继续积极进行改组国民党的准备工作。远在莫斯科的共产国际也加快了促进国共合作的步伐。5月，马林又带来共产国际给中国共产党的指示，要求中国共产党进一步加强同国民党的合作。1923年6月12日至20日，中国共产党第三次全国代表大会在广州召开。大会通过了《关于国民运动及国民党问题的决议案》，正式接受共产国际关于同国民党合作的训令。
马林因为他在中国活动的建树，被共产国际任命为共产国际远东局的第三号人物。在中国工作卓有成就的马林，虽然已被苏联政府任命为驻广州领事，但在鲍罗廷来华不久后就回莫斯科去了。在这之后，马林再也没参加到中国革命中来。令他欣慰的是，他所倡议的国共“党内合作”的方式变成了振奋人心的现实，20年后——1942年，马林遭到了德国法西斯的杀害。
（二）中国共产党与国共合作
中国共产党在国共合作形成过程中，随着革命形势的不断变化以及自身的逐渐成熟，大体实现了几个重大转变，最终作出了与国民党合作共同完成民族革命任务的决定。
1.中国共产党对主要任务的调整
1922年7月召开的中国共产党第二次全国代表大会，在对中国半殖民地半封建社会性质进一步认识的基础上，在对当时中国革命形势客观冷静分析的前提下，大会对中国共产党第一次全国代表大会作出的当前主要任务是进行社会主义革命的决定进行了调整，确定当时中国共产党的主要任务是进行反对帝国主义、反对封建主义的民主主义革命。为国共合作的形成奠定了重要的政治基础。
（1）“一大”关于社会主义革命的决定
1921年7月23日，中国共产党第一次全国代表大会在上海法租界望志路树德里3号举行。由于会场受到暗探注意和外国巡捕搜查，最后“—天的会议改在浙江嘉兴南湖的游船上举行。参加党的一大的有来自7个地方的12名代表，代表全国53名党员。他们是：李达、李汉俊（上海），张国焘、刘仁静（北京），毛泽东、何叔衡（长沙），董必武、陈潭秋（武汉）、王尽美、邓恩铭（济南），陈公博（广州），周佛海（旅日）。包惠僧受当时在广州的陈独秀派遣，也参加了会议。列席会议的有共产国际代表马林和尼科尔斯基。
大会通过了中国共产党的第一个纲领——党纲，确定党的名称为“中国共产党”。党的纲领是“以无产阶级革命军队推翻资产阶级”，“采用无产阶级专政，以达到阶级斗争的目的——消灭阶级”，“废除资本私有制”，以及联合第三国际。这表明，中国共产党从建党一开始就旗帜鲜明地把社会主义和共产主义规定为自己的奋斗目标，并且坚持用革命的手段来实现这个目标。
大会虽然也主张“与其他政党合作，反对共同的敌人”即军阀，但并没有制定出党在民族革命阶段的明确纲领。新生的中国共产党确定了社会主义和共产主义的选择，并且有坚定的革命决心，但对中国的具体国情还了解不多，还不懂得民主革命与社会主义革命的区别和联系。在中国这种资本主义发展还很微弱、严重地遭受外国帝国主义压迫的半殖民地半封建的社会条件下，是否能够立刻直接实行社会主义革命，需要经过什么步骤才能最后实现社会主义、共产主义，对于这些问题，刚刚诞生的中国共产党还不可能认识清楚。
中国共产党对当前中国革命的性质和任务如何确定，直接涉及到对其他政党，特别是对以孙中山为首的中国国民党应当采取什么态度。中国共产党第一次全国代表大会通过的中国共产党第一个纲领既然把社会主义革命作为当前的主要任务，那么南北政府自然都在反对之列。因此，进一步明确当时中国革命的性质和任务，是“一大”以后中国共产党人必须解答的一个重要的课题。远东各国共产党及民族革命团体第一次代表大会的举行，对这一问题的解决起了促进作用。
（2）远东各国共产党及民族革命团体第一次代表大会
1921年底，美、英、法、日、意、比、荷、葡、中9国在华盛顿举行会议，确定帝国主义在远东和太平洋地区殖民地和势力范围的分割问题。为了对抗这次会议，共产国际于1922年1月21日在莫斯科召开了远东各国共产党及民族革命团体第一次代表大会。中国方面出席会议的有中国共产党、社会主义青年团和国民党的代表。大会贯彻了列宁的《民族和殖民地问题提纲初稿》的意见，明确指出中国和远东各被压迫民族当前的革命任务是进行反对帝国主义和封建主义的民族民主革命，号召“全世界无产者和被压迫民族联合起来”。列宁在病中接见了国共两党的代表，先后问国民党代表张秋白、中国共产党代表张国焘“中国国民党和中国共产党是否可以合作”，列宁的提问表达了他对中国革命的关怀及国共两党合作的愿望。
2月2日大会闭幕以后，张国焘回国把大会的精神向中共中央作了汇报，说明了大会确定中国革命的反帝国主义性质，而帝国主义与中国的反动势力是勾结在一起的，并指明“中国革命是世界革命的一部分”等等。听了张国焘汇报以后，中共中央对中国社会的性质、革命的任务作了客观的分析，并积极制定中国民主革命的纲领。
这期间，1922年4月间，爆发了第一次直奉战争。面对动荡不安的政局，政界、军界以及文化教育界的人士都纷纷提出解决国是的主张。其中以“联省自治”代替独裁统治的主张鼓动性很大。对此，中国共产党针锋相对地予以驳斥。揭露了持这种主张的结果是以几个封建军阀的联合政权代替了一个军阀政权，军阀政权欺压人民的本性没有变。改良主义不能救中国，只有革命才是拯救中国的唯一出路。因此，批判“联省自治”，确定反对帝国主义反对封建主义的民主革命任务必然成为中国共产党第二次全国代表大会的主要议题。
（3）“二大”关于民主革命的纲领
1922年7月16日至23日，中国共产党第二次全国代表大会在上海成都南路辅德里625号召开。出席会议的代表共12名，代表全国195名党员。这些代表是：中央局委员陈独秀、张国焘、李达，上海的杨明斋，北京的罗章龙，山东的王尽美，湖北的许白昊，湖南的蔡和森，广州的谭平山，中国劳动组合书记部代表李震瀛，中国社会主义青年团临时中央局代表施存统。鉴于第一次全国代表大会遭到法国巡捕破坏的教训，“二大”采取了较为严格的保密措施。大会决定以小型的分组会为主，尽量减少全体会议的次数，每次会议都要更换地址。大会共进行了8天，举行了3次全体会议。陈独秀主持大会，并代表中央局向大会作一年来的工作报告；张国焘报告出席远东各国共产党及民族革命团体第一次代表大会的经过以及第一次全国劳动大会的情况；施存统通报了社会主义青年团第一次全国代表大会的情况。
大会根据列宁关于殖民地半殖民地的学说和远东大会的精神，分析了国际形势和中国社会政治经济状况，讨论了党的任务，通过了《中国共产党第二次全国代表大会宣言》、《中国共产党章程》以及《关于“世界大势与中国共产党”的议决案》、《关于“国际帝国主义与中国和中国共产党”的决议案》、《关于“民主的联合战线”的议决案》、《中国共产党加入第三国际决议案》、《关于议会行动议决案》、《关于“工会运动与共产党”的议决案》、《关于少年运动问题的决议案》、《关于妇女运动的决议案》、《关于共产党的组织章程决议案》等9个决议案。大会选举产生了中央执行委员会，陈独秀、邓中夏、张国焘、蔡和森、高君宇为中央执行委员会委员，另选出3名候补执行委员。陈独秀被选为中央执行委员会委员长，蔡和森、张国焘分别负责党的宣传和组织工作。大会根据世界革命形势和中国政治经济状况，制定了党的最高纲领和最低纲领。大会宣言指出，中国共产党是中国无产阶级政党，它的目的是要组织无产阶级，用阶级斗争的手段，建立劳农专政的政治，铲除私有财产制度，渐次达到一个共产主义的社会。这是党的最终奋斗目标，是党的最高纲领。为了实现党的最高纲领，大会提出在目前历史条件下的最低纲领，这就是：消除内乱，打倒军阀，建设国内和平；推翻国际帝国主义的压迫，达到中华民族完全独立，统一中国为真正的民主共和国。
中共二大正确地分析了中国的社会性质，中国革命的性质、对象、动力和前途，指出了中国革命要分两步走，在中国近代史上第一次明确地提出了彻底的反帝反封建的民主革命纲领，为中国各民族人民的革命斗争指明了方向。
2.对国民党从排斥到联合的转变中国共产党第二次全国代表大会作出了《关于“民主联合战线”的决议案》，标志着中国共产党从“一大”时对国民党抱有的排斥态度，现在转变为积极联合的态度。促成这一转变的根本原因是中国共产党制定的民族革命纲领与孙中山的革命目标是一致的。另外，中国共产党第二次全国代表大会通过了《中国共产党加入第三国际决议案》，中国共产党正式成为共产国际的一个支部，中国共产党必须服从共产国际的决定。再次是建党初期的中国革命运动失败的教训教育了中国共产党。
（1）对国民党的排斥态度
1922年3月，共产国际代表马林建议中国共产党党员加入国民党，实行国共两党的党内合作时，受到了中国共产党的抵制。