争取虞洽卿和钮永健的武装力量留在起义阵营，是当时上海区委武装起义准备工作的重中之重。汪寿华代表上海区委和总工会与他们保持着经常的联系。最初，按照中共中央的意见，将虞洽卿作为上海资产阶级的领袖和中心，作为争取和联络的对象。9月初，中共中央决定起义后，汪寿华即奉命找到虞洽卿具体谈及此事。虞洽卿见工人方面愿意与他合作，并要让他出来成立上海市民自治形式的政权。对此他表现出很感兴趣。虞洽卿还表示可以联系租界上的英国当局，不让他们干涉起义。经过几次商谈后，汪寿华对虞洽卿的工作做得很顺利，已经和他具体商谈了上海地方政府的组织问题。但是，资产阶级不可能有坚定的革命性，尤其是像虞治卿这样多年活跃于政坛的老手，当政治暴风雨来临时，更会是如此。正当汪寿华与虞洽卿联系时，10月12日，上海的《商报》就透露上海将有“暴动”的消息，警察厅长严春阳通知虞洽卿离开上海。虞洽卿看到风声吃紧，吓得马上躲了起来，再也不与汪寿华联系了，不肯出面组织事先谈妥的保安委员会，也不肯出面组织各帮各业资本家支持和参与起义的会议，甚至在报纸发表所谓“在商言商”的言论，表示自己与武装起义完全没有任何关系。由于虞洽卿的政治态度摇摆不定，忽冷忽热，对武装起义缺乏诚意，总不肯把保卫团的武装情况向工人纠察队通报，使工人纠察队无法与他们配合行动。
虞洽卿的这种转变，使得中共上海区委没有任何办法，只得要求他行动上保持中立，并将统战工作重心转向钮永健，寄希望于他能在武装起义中发挥积极作用。为此，汪寿华与钮永健进行了多次谈判和联络，可是钮永健却倾向于拉拢和收买孙传芳部下的军官，企图通过这些人的倒戈夺取上海的政权。通过多次努力，最后上海区委还是与钮永健达成协议，同意采取一致行动，发动起义，条件是要由钮永健方面来发动武装起义。然而，直到起义前夕，钮永健还是找各种托词拖延起义时间，贻误起义时机。
此外，中共上海区委还想尽一切办法在北洋军阀驻沪海军中进行了秘密工作，在敌人的军舰上建立党的组织，发展党的力量，先后策反了六艘军舰配合上海工人武装起义。
上海工人在准备武装起义的过程中，最缺乏的是枪支和弹药。开始，工人纠察队大多赤手空拳，枪支很少，中共中央的领导机关原有几十个武装保卫人员，20余支短枪，分配到工人纠察队做骨干。靠这点武器，显然不足以应付起义的需要。为此，中共上海区委多方想办法，筹集武器弹药武装工人纠察队。一种办法是秘密购买。当时，在上海的黑市上有枪支买卖，一支驳壳枪值银元100元，一支手枪值银元60元，一枚手榴弹值银元3元。购买的途径，或通过上海的青红帮的帮会组织，或通过北洋军阀部队的官兵，或外国轮船上的水手。枪支虽然可以买到，但由于经费紧缺，上海区委没有大量资金购买武器，只能购买数量不多的枪支和弹药。广东国民政府曾拨款10万元给国民党驻沪特派员钮永健，策动浙江夏超倒戈和组织上海暴动，但钮永健不肯把这笔经费用在工人武装的准备上。于是，上海总工会与钮永健进行了多次谈判，费了许多气力，才争得了1万元经费。从钮永健处拿到1万元以后，马上从外国海员、黑社会组织和军阀部队官兵的手中购买枪支和手榴弹。没有武器的纠察队员们便每人拿一把榔头或斧头等工具。在短短的一个月里，工人纠察队的战斗力增强了许多。另一种办法就是自己动手研制武器。上海区委没有钱买枪支，就组织共青团员中的青年知识分子自己动手研制。他们买来英文版军火书籍，根据书中介绍的方法与配方，秘密进行了实验。经过多次试验，终于研制出炸药和雷管，然后用罐头盒做外壳，日夜赶制土炸弹。到第一次武装起义前夕，上海区委起义指挥部已购买到100多支枪，制造了几百颗手榴弹和土炸弹。
正当武装起义的准备工作紧张进行时，10月10日，北伐军攻占武昌，很快结束了对吴佩孚的战斗。湖南、湖北两省完全控制在北伐军的手中，这使正困守在江西战场上的孙传芳更加处于孤立无援的境地，失败迷雾笼罩着整个军阀部队。虽然孙传芳还想作最后的挣扎，但已无力挽回败局。
这一急剧变化的形势鼓舞了上海工人阶级，加快了准备武装起义的步伐。10月10日，中共上海区委召开紧急会议，讨论江西与浙江两省的形势，决定把武装起义提到议事日程上来。会后，由罗亦农向党中央报告区委的意见，由汪寿华去和虞洽卿、钮永健分别进行联系，商讨统一行动问题。10月12日，上海区委主席团会议决定，为了加强对武装起义的领导，区委主席作为区委军事委员会，全面负责起义的组织和准备工作。10月15日，上海区委召开全体委员会议，罗亦农报告了全国和上海的政治形势，对上海党组织进行了武装起义的动员，决定分批召集所有支部及各党部负责同志会议、活动分子会议及工会积极分子会议，部署起义的具体准备工作。会议还确定了起义的方针，即与资产阶级建立联合战线，以准备工人武装暴动。
10月16日，突然传来了夏超在浙江宣布独立的消息，使上海出现了十分有利的革命形势。夏超是浙江的地方军阀，自1924年9月依附孙传芳以后，出任浙江省省长，控制着全省的政权，掌握着一支近万人的警备部队，他表面服从孙传芳的领导，实际上貌合神离，矛盾重重。在北伐军节节胜利的影响下，他早有摆脱孙传芳的统治，归顺广东国民政府之心。1926年9月，钮永健到上海之前曾先至杭州，与夏超秘密谈判，商定夏超在杭州宣布独立，脱离孙传芳，并向上海进军，国民革命军将委以第十八军军长之职。钮永健在上海组织策应，里应外合，夺取上海。10月中旬，夏超眼看孙传芳在江西无法脱身，无暇顾及浙江，正是起兵举事宣布独立的极好机会。10月16日，夏超便正式接受了国民革命军第十八军军长的任命，解除了孙传芳在杭州仅有的200名宪兵队的武装，公开宣布浙江独立。10月7日，夏超调集3000多警备队，整装待发，准备向上海进军。当天下午4时多，1500余名警备队乘专列进驻嘉善。当晚9时左右，1600多名警备队员也乘专列向松江进发，打算控制上海至杭州的水陆交通，伺机进攻上海。此时，孙传芳在上海的兵力比较空虚，仅有十三团1000余人和沪警察厅2000名警察。他们听到夏超进攻上海的消息，惊慌失措，乱作一团。淞沪督办丁文江仓皇逃进租界，乞求帝国主义的庇护。中共上海区委及时抓住了这个有利时机，准备立即进行武装起义。
10月17日，区委主席团召开临时紧急会议，决定组成武装起义的总指挥部，由罗亦农担任秘密总指挥，李泊之任公开总指挥。同时，由罗亦农、汪寿华、李泊之等组成工人纠察队指挥处。
尽管上海区委准备起义的决心很大，上海工人准备起义的热情也很高，但起义的准备工作并不顺利。首先，当时的中共中央一再强调要把武装起义的领导责任让给资产阶级，使上海区委和上海工人阶级处在被动的地位。在起义的关键时刻，上海区委不能集中力量准备起义，花了很多时间去讨论与资产阶级代表人物的关系。党内不少同志对此表示不满，对起义能否成功也表示怀疑，赵世炎就明确表示，对这次起义前途如何，还难预料，大家不要过于乐观。这不能不影响到起义的准备。其次，上海资产阶级代表虞治卿与国民党代表钮永健，在起义的关键时刻，犹豫动摇。先是虞恰卿毫无准备，他对起义抱着投机的心理，既想从工人起义中捞到好处，又不愿作出任何牺牲。接着是钮永健犹豫不决，不肯承担起义的领导任务。直到临近起义，中共上海区委与上海工人阶级才主动地承担起发动起义的任务，使得起义准备工作处于被动境地。
临近起义之时，中共上海区委和市总工会克服困难重重，连续召开区委主席团会议、党的活动分子会议等一系列会议，研究部署武装起义的工作。10月18日，在党的特别活动分子会议上，罗亦农分析了全国的形势和上海敌我友各方面的政治态度，指出上海己到革命的新时期，号召工人阶级武装起来，联合资产阶级与国民党在上海的武装力量，进行武装起义，推翻军阀的统治，夺取上海政权。赵世炎部署了武装起义的行动计划，要求各方负责同志要注意马上调动参加暴动的力量，动员和组织群众支持武装起义。19日，中共上海区委进一步决定，武装起义发动后，工人纠察队首先进攻力量相对薄弱的警察署，夺取警察手中的武器武装自己，然后南市区、法租界的工人纠察队与钮永健的武装一起攻打高昌庙的兵工厂（制造局）、孙传芳的龙华司令部、淞沪督办公署和淞沪警察厅。闸北区和浦东区的工人纠察队集中力量攻打火车站和沿江码头，接应黄浦江中的起义海军。起义的各路人马在预定的地点，以黄浦江中军舰的炮声为信号一齐行动。
经过中共上海区委和市总工会的精心准备和不懈努力，工人武装暴动的酝酿和准备工作至此已基本就绪，上海工人武装纠察队进入临战状态，等待着起义号角的吹响。