1927年春夏，是中国革命史上最黑暗的时段。4月12日，蒋介石在上海发动反革命政变，大肆搜捕和屠杀共产党员与革命群众。7月14日夜，汪精卫在武汉召开秘密会议，确定分共计划，提出“宁可错杀千人，也不使一人漏网”的口号，正式与共产党决裂。全国其他一些地方，在国民党右派把持和操纵下，也相继以残忍的手段进行“清党”。据中国共产党第六次全国代表大会时的不完全统计，从1927年3月至1928年上半年，被国民党反动派杀害者达31万多人，其中共产党员2.6万多人。工会会员由革命高潮时期的300万人锐减至几万人。拥有1000多万会员的农民协会也基本上被解散。一时间，黑云压城，血流成河，全国笼罩在白色恐怖之中，中国共产党和党领导的革命事业到了生死存亡的危急关头。
30多年后，毛泽东在接见外宾回忆当时的悲惨情景时，有一个形象的比喻，他说，我们共产党就像一篮子鸡蛋，被摔到了地上，绝大多数都被打烂了。当时在全党面前只有两条路，要么被敌人的屠杀吓倒，放弃革命；要么坚持革命，武装反抗。信念坚定的中国共产党人并没有被敌人的屠杀吓倒，他们从地上爬起来，揩干净身上的血迹，掩埋好同伴的尸体，又继续战斗了。
1927年国共合作发动的大革命失败后，中国共产党开始走上独立领导中国革命的道路。在关于中国社会性质以及革命性质、对象、动力、前途等关系革命成败的重大问题上，迫切需要召开一次党的全国代表大会认真加以解决。
7月12日，中共中央改组，陈独秀离开了中共中央最高领导岗位。
为了总结第一次国内革命战争的经验教训，纠正以陈独秀为首的中共中央的错误，确定今后革命斗争的方针，中共中央于8月7日在湖北汉口召开了紧急会议，即八七会议。会议纠正和结束了陈独秀的错误路线，选举瞿秋白、李维汉、苏兆征等人组成临时中央政治局。毛泽东当选为临时中央政治局候补委员。面对形势和党的任务的巨变，中央临时政治局提出要在6个月内准备召开中共六大。
11月，中央临时政治局扩大会议正式作出《关于第六次全党代表大会之决议》，决定大会于1928年3月初至3月中旬之间召开。由于国内白色恐怖严重，很难找到一个能够保证安全的地方，所以临时会议没有把大会召开地点确定下来。瞿秋白曾提议将会议地址定在澳门，而多数人主张在香港，未能取得一致意见。
考虑到1928年春夏间莫斯科将相继召开赤色职工第四次大会、共产国际第六次大会和少共国际第五次大会，届时，中国共产党将派代表出席这几个大会，而且中共中央也迫切希望能够得到共产国际的及时指导，中央领导几经权衡，决定把六大放到莫斯科召开，并向设在莫斯科的共产国际总部发出了请示电。
1928年3月，共产国际充分考虑了中共和中国国内的实际情况，正式回电，同意中共六大移到莫斯科召开，要求当时的中共领导人瞿秋白、周恩来等提前到莫斯科做会议的各项准备工作。同时还点名要前中共中央总书记陈独秀出席会议，但遭到陈独秀拒绝。
4月2日，中共中央临时政治局常委会开会研究召开六大的问题，决定李维汉、任弼时留守，负责中央日常工作，邓小平为留守中央秘书长。