在国民党新右派咄咄逼人的形势下，中国共产党人团结和发展革命力量，誓死保卫起义的胜利成果。为此，中国共产党着重加强四个方面的工作，以增强革命力量。一是争取北伐军中左倾军队的支持。在此过程中，周恩来做了大量工作，争取和团结具有革命气节的军官，与工人阶级结成“军事联盟”。驻上海的国民革命军第一师师长薛岳，驻苏州的第二十一师师长严重，第二十六军党代表赵舒，都和中国共产党保持着良好的关系。周恩来与上海区委对第二师师长刘峙，第二十六军第二师师长斯烈也做了大量争取工作，并派人与南京的第二军、第六军取得了联系。二是以上海临时市政府为中心，与上海的学生、小资产阶级、民族资产阶级等结成“政治联盟”，是共产党人团结民众力量，对抗蒋介石又一重要做法。中国共产党对临时市政府寄予很大的希望，认为通过上海市民代表会议选举产生的政权机关，代表上海人民的意志，蒋介石是不敢与之对立的。三是努力发展共产党员和国民党员，增强革命的力量。中国共产党在上海采取大量发展共产党员和国民党员的办法，是想通过增强群众的力量，遏止国民党右派的反动，以提高国民党的党权，限制蒋介石的军权。1927年3月24日，中共上海区委在制定行动大纲中，提出了公开打出共产党的牌子，宣传共产党在工人武装起义中的领导作用，决定迅速发展共产党员，实现“共产党群众化”的口号。按上海区委的计划，10天之内发展到1万名党员，一个月之内发展到2万名党员，三个月之内发展到5万名党员。各部委、各支部立即召开党员大会，吸收在武装起义中表现突出的优秀分子入党，特别重视从工人纠察队员中发展党员。从武装起义胜利到4月6日，共产党员从原来的4500人发展到8400人，建立了140个支部。共产党的发展工作取得了很大的成绩。四是开展反英运动，逼迫蒋介石卷入反帝斗争中去，减少对上海工人的进攻。在蒋介石到达上海的同一天，中共上海区委号召“发动反英大罢工”，原先准备在反英斗争中逼迫蒋介石表态，如果他镇压中国工人，就完全失去过去信仰，从此消灭其政治生命。随着群众性反英斗争的不断扩大，蒋介石迫于形势，有可能跟随民众跑，缓和上海的局势。
总之，在起义胜利到蒋介石发动反动政变这20多天的时间里，中国共产党领导上海工人阶级在紧张而复杂的形势下，为保护上海人民的胜利成果做了大量的工作，对以蒋介石为代表的国民党右派进行了一定的斗争。可是，由于蒋介石军权在握，中国共产党与上海工人阶级势单力薄，处于被动地位，无力阻止蒋介石步步走向反动，使得本来就十分紧张的上海形势，就越来越严重了。
尽管此时中国共产党人对上海形势的分析判断基本上是正确的，对蒋介石的反动本质和他到上海的反动目的也有比较清醒的认识，也采取了一系列斗争措施。但是，毋需讳言，此时由于共产党人对蒋介石玩弄阴险狡诈的手段仍然认识不足，对他所能动员的社会力量也缺少正确的分析，对公开提出反蒋口号有所顾虑。因而，在这样一种情况下，共产党人没有也不可能拿出比较有效的办法，来阻止蒋介石发动反革命政变的步伐。
（三）反革命政变
4月上旬，蒋介石准备发动反革命政变的部署一切就绪。租界内外，上海工界联合总会和中华共进会的流氓们立即活跃起来，诬蔑工人纠察队的谎言四起，“打倒上海总工会”、“解除工人武装”的气焰嚣张，帝国主义者和反动派都加强了戒备。这一切迹象表明，上海的局势急转而下，反革命政变迫在眉睫。
蒋介石磨刀霍霍，各帝国主义特别是日本帝国主义为其在华利益考虑，竭力阻碍中国革命，对蒋介石政变给予了极大的支持和配合。4月8日，日本军舰“出云号”上的800名士兵悍然登上上海租界，并排队游行。更为猖獗的是，日本军队竟然在北四川路奥迪安戏院的屋顶架设机枪，枪口对着中国百姓。尤其不能容忍的是，4月10日下午，日本海军50余人从北四川路突然闯入华界鸿庆坊，将该坊四周围住，持着上了刺刀的枪，直奔37号2楼海员工会理货部及3楼联德总会进行搜索，抓走了20多人。与此同时，各帝国主义国家在上海驻兵已达2000余人，数十艘军舰在海上游弋。一时间，上海滩风声鹤唳，人心惶惶。
有帝国主义作后盾，蒋介石更加有恃无恐。9日，蒋介石颁布了《战时戒严条令》，严禁集会、罢工、游行，并任命白崇禧、周凤歧为上海戒严司令部的正、副司令。一切布置就绪后，蒋介石留下亲信杨虎、陈群在上海“督沪”，自己则避往南京，以逃避责任。4月11日，他在南京正式下达密令：“已光复各省一律实行清党。”于是，一场罪恶的屠杀降临到了上海工人和共产党人的身上。
11日深夜到12日凌晨，在蒋介石的策划和指挥下，上海青帮流氓头子黄金荣、杜月笙、张啸林指使的大批便衣党徒，身着统一的蓝布工装裤，臂上缠着白布黑“工”字标志，手持盒子枪，从租界倾巢出动，向上海总工会会所、工人纠察队总指挥处、商务印书馆印刷所等处放枪，骤然间南市、闸北等区枪声不断，划破了宁静的夜空。工人纠察队立即予以还击。正在这时，大批二十六军部队开到，将攻打工人纠察总部及各分部的流氓缴械。工人纠察队看到这种情形，开门将前来“调解”的二十六军迎入。谁知，二十六军刚一入门，立刻就变了脸色，说：“他们的枪械已经缴了，你们的枪械也得缴下来。”这样，工人纠察队员也被收缴了全部武装。在这场突然袭击中，有60人牺牲于革命营垒内部的卑鄙屠杀，220人受伤，二十六军占领了工人纠察队总部及分部。
4月12日清晨，各厂工人听到纠察队被缴械的消息，按捺不住心中的愤怒，纷纷集会抗议。中午，闸北和南市的群众分别召开万人市民大会。会后，闸北数万名工人拥往湖州会馆，夺回了原先设置在那里的上海总工会会所。南市群众则冒雨到东路军总指挥部请愿。13日上午10点，总工会在闸北青云路广场召开了有10万人参加的群众大会。会后，群众整队出发，徒步到宝山路天主堂二十六军二师司令部请愿，要求释放被拘捕的工友，抚恤死难烈士家属，交还纠察队枪械。下午1时，当队伍行至宝山路三德里附近时，早已埋伏在那里的二十六军士兵分头冲出，轻重武器向手无寸铁的游行队伍一齐开火，由于游行队伍密集，当场即有100多人被打死，伤者不计其数。时值大雨滂沱，宝山路顿时尸横遍野，血流成河，令人惨不忍睹。为了毁灭罪证，疯狂的刽子手立即用卡车将尸首拖至郊区掩埋，其中尚有不少的重伤者在呻吟中被横拖竖拽，生生活埋。下午4时，南市由6000名工人组成的示威游行队伍也惨遭血腥屠杀。随后，上海总工会被封闭，上海特别市政府被强行解散。从4月12日到15日，仅仅4天的时间里，上海有300多工人被杀，500多人被捕，5000多人下落不明，大批共产党员和革命者倒在了血泊之中。这就是蒋介石发动的震惊中外的四·一二反革命政变。4月18日，上海的共产党人与革命人民的尸骨未寒，血迹未干，蒋介石便在南京成立了代表大地主大资产阶级的“国民政府”，登上了最高统治的“宝座”。
在蒋介石的独裁统治下，上海一片白色恐怖，任何反抗的言论举动都会招致杀身之祸。由此，上海革命跌入最黑暗的10年低谷之中。
蒋介石的血腥大屠杀，深刻地教育了中国共产党与上海工人阶级：在刽子手面前，任何妥协和请愿都无济于事，对待反动派，只有进行针锋相对的斗争。于是，在中国共产党的领导下，上海的工人阶级和广大人民在极度危难之中，向以蒋介石为代表的新军阀展开了不屈的斗争。从4月13日下午起，上海各区各工厂的几十万工人在各级工会的发动下再次举行罢工。14日起，中共上海区委、上海总工会等机关陆续转入地下，积极开展活动。许多共产党员和工人领袖，坚持战斗，直至为革命事业流尽最后一滴血。
（四）不屈不挠
四·一二反革命政变后，上海总工会决定坚持总同盟罢工，誓死奋斗。这是上海工人阶级自发动武装起义以来第三次总同盟罢工。前两次总同盟罢工是为了反对北洋军阀的统治，迎接北伐军，这次总同盟罢工是反对国民党新军阀。从13日下午起，上海各区各工厂的几十万工人在各级工会的发动下举行了罢工，与国民党反动派进行斗争。