随后，周恩来将起义总指挥部迁入商务印书馆。这时，敌人只剩下最后一个，也是最顽固的一个据点——北火车站。为了尽可能地减少伤亡，周恩来对北火车站的战斗作了周密的部署，他指示纠察队员在轻机枪的掩护下，在虬江路至北站之间修起三道防御工事，在激烈的战斗中，宝山路东侧的居民住屋被敌人铁甲车上的迫击炮及租界方面的重机枪击中起火，火借风势，很快蔓延开来。周恩来立即组织起义工人救火，帮助居民抢救物资，并有秩序地转移疏散。敌军乘机发动出击，密集的炮火使起义工人被迫退出防御工事。在这千钧一发的时刻，周恩来率领一支突击队冲了上去，会合前线起义工人猛烈回击，夺回了防御工事。在火力的掩护下，居民区的大火也被扑灭。
下午4时左右，毕庶澄见大势已去，换上便装，偷偷地逃进了租界。残军无心再战，已近土崩瓦解。5时，沪东、沪西、闸北的工人纠察队，按照总指挥部发出的紧急命令，分三路到虬江路宝山路口集合，准备对北站固守之敌人发起总攻。周恩来站在三叉口的高地上，对工人们说道：“现在敌人2000多人集中在这里，被包围了，逃不掉了！英勇的纠察队员们，准备发起总攻，在6点前攻占北站，结束战斗！”下午6时，各路汇集到闸北的起义工人，向这里的敌人发起猛烈进攻，在震天的冲杀声中，敌人全部被打垮，起义工人终于占领了闸北火车站，取得了第三次武装起义的最后胜利。
上海工人第三次武装起义的胜利，在上海工人运动史上及中国革命史上写下了光辉的一页。上海工人经过周密细致的准备，抓住有利的起义时机，采取正确的战略战术，英勇无畏地进行战斗，并不断地用夺取来的敌人的武器武装自己，终于打败了武器精良的反动军警，依靠自己的力量解放了上海。
（四）成立临时政府
召开上海市民代表会议，成立上海临时政府，是上海工人第三次武装起义的重要组成部分。早在2月26日，党的特委会议通过决议，决定将举行武装起义的军事工作和召开市民代表大会的政治工作同步进行，把推翻旧政权和建立新政权紧密地结合起来。
在特委的领导下，中共上海区委加紧市民代表会议的宣传和组织工作。3月2日，上海区委宣传部制定了关于市民代表会议的宣传大纲，党的各级组织在工人和市民群众中，对召开市民代表会议的重要意义和组织方法，作了广泛的宣传。为了保证工人阶级的领导权，上海区委决定增加工人代表在市民代表会议中的比例，提出全市代表1200名，其中工人800名，占2/3，达到每一工厂有1名代表参加市民代表大会。市民代表这一议案遭到国民党和上海资产阶级的反对和抵制，他们以种种借口阻挠和反对市民代表会议的召开。国民党代表钮永健、吴稚晖提出：国民党是“以党治国”，市民会议与这个主张相冲突。他们还以“现为军政时期，人民未训练”为由，提出不能实行代表会议。吴稚晖更加露骨地说，共产党主张召开“市民会议是表现造反”，“民选市政府为脱离国民政府”。因此，他们极力主张任命的市政府，反对民选的市政府。面对国民党代表钮永健、吴稚晖等人的无理指责，上海区委当即进行了批驳，理直气壮地指出，市民代表会议与市民政府的主张，既符合孙中山三民主义的革命精神，又符合1926年10月国民党联席会议的决议和国民政府《北伐宣言》的思想。孙中山的民权主义，主张民权为一般平民所共有，不许为少数人所得而私。国民党联席会议与《北伐宣言》都主张实行国民会议、省民会议、市民会议。所谓“一党治国”并非“一党专政”，而“只是这一个政党在会议中，由他的党团起作用，贯彻他的政治主张，而不是一种直接的命令式的关系”。所以，市民代表会议和市民政府是完全符合国民党一大的革命精神的。在宣传市民代表会议和批驳各种谬误观点的同时，上海区委积极筹备召开市民代表会议。3月6日，上海区委制定了《市民代表会议之组织法及其职任拟案》，确定召开市民代表会议的各项原则与办法。文件规定，市民代表会议分两级进行，—是各区代表会议，二是全市代表会议。市民代表的产生，均须由各工厂、各手工业工会、各店员工会、各农会、各商会、各兵营、各学校、各自由职业的团体全体群众，开会直接选出区代表及市代表。市代表的人数，由各职业机关或团体，都按人数比例，每1000人选出1名市民代表；区代表的人数，每500人选出一名区市民代表。各代表任期均为1年，可连选连任。市代表会议及各区代表会议，各选出20人至50人为执行委员会，再由执行委员会选出9至13人为主席团。文件还规定了市民代表及执行委员会的主要职责等。
在上海区委的领导下，市民代表会议的筹备工作进展比较顺利，至3月10日，上海各区的市民代表会议基本就绪。11日下午，特别委员会议听取了罗亦农关于市民代表会议工作情况的汇报，讨论和研究了执行委员会名额及分配，决定选举产生执行委员30名，其中工界代表8名，商界代表8名（包括大资产阶级2名，中小资产阶级各3名），学生代表3名，教职员、海员、律师、会计师、作家、医生各1人，共产党、共青团、国民政府、国民党市党部、省党部等各1名。12日上午，区委召开了临时市民代表会议党团会议，传达了党的特委会议决定，进一步说明了召开市民会议的意义。当天下午，在各方面作了充分准备的基础上，以上海市民公会的名义，召开了上海第一次临时市民代表会议，到会代表200余名，其中工人100多，商人近50名，学生及其他职业团体的代表50余名。由市民公会秘书长、共产党员林钧担任会议主席，宣布“以取得市民真正之自主权，又欲消除—切黑暗势力及防止以后军人独裁政治”为大会宗旨。会议通过了剥夺“一切贪官污吏、土豪劣绅、工贼洋奴等反革命派的民权”的决议案，并选举产生由31人组成的市民代表会议执行委员会。其中共产党员和共青团员占15名。
上海临时市民代表会议的召开，具有极为重要的历史意义。它标志着上海人民反对帝国主义和军阀统治，争取民主政权斗争取得巨大成就，为实现上海市民的民主政府作了思想上和组织上的准备。工人武装起义发动的那天，即3月21日上午，上海市民代表会议执行委员会行使职权，召开紧急会议，通过全市总同盟罢工、罢市、罢课的决议，揭开了上海工人第三次武装起义的序幕。
3月22日上午，上海各区的武装起义已告胜利，北洋军阀的反动军警已基本肃清，虽然闸北地区的起义工人还在与毕庶澄残部激烈搏战，但上海人民的武装起义已经胜利在望。上午9时，上海市民代表召开了第二次市民代表会议。簇拥在会场的4000多名代表，分别来自全市1000余团体。在热烈的气氛中，市民代表会议宣告新的上海市民众政权——上海特别市临时政府成立，选举产生19名临时市政府执行委员，其中共产党员和共青团员10名，占半数以上，战火中诞生的上海市民政府，在其组织领导和组织成分上实现了工人阶级的领导权。
上海临时市政府的成立，是上海工人武装起义的一个直接成果，也是工人武装起义的一个重要组成部分。已经解放了的各区工人、市民纷纷涌上街道和广场，庆祝上海人民的胜利，欢呼新上海的诞生。
3月22日下午，当毕庶澄残部据守北火车站作最后挣扎的时候，上海人民确信：工人起义胜利的时刻就要到来了！市民们为了庆祝胜利，争先恐后地购买红布、红纸和鞭炮，绸布店和杂货店门前熙熙攘攘，热闹非凡。广大的工人、学生、店员，自发地形成了一支游行队伍。他们高举着红旗和标语，鞭炮声、欢呼声、口号声交织在一起。这是多少年来上海人民难得的一个盛大节日。
上海工人阶级在中国共产党的领导下，不屈不挠，终于取得了第三次武装起义的胜利。他们昂首挺胸，扬眉吐气，他们欢欣鼓舞，备感骄傲，庆祝胜利。起义胜利后，长期处于半公开状态下领导工人斗争的上海总工会迁入闸北湖州会馆正式公开办公。宽敞的湖州会馆焕然一新，会馆门口高悬红布白字的“上海总工会”横幅，十多名武装纠察队员站于门前。络绎不绝前来祝贺的工会代表高呼口号，与鞭炮声相应和，呈现出一派喜庆热烈的气氛。
随后，汪寿华等总工会负责人开始办公。他们部署各级工会的工作，指导工人纠察队的组织与训练，解决工人与资本家间的纠纷，维持上海市的社会秩序，开始行使当家做主的权力。
3月29日，上海特别市政府在新舞台召集代表大会，举行市政府委员就职典礼。出席会议的代表有5000余人，市民政府委员13人，秘书长林钧宣布大会正式开始，报告了国民政府及中央党部已批准成立市民政府的决定。与会代表热烈鼓掌，欢庆新生政权的诞生。随后各委员站于台前，宣誓就职，然后上台祝词并发表就职演说。
下午5时，23位委员在邮务公会军乐队的护送下走出会场，在上海市政府（前上海县公署旧址）门口留影。当晚6点，上海特别市市民政府召开第一次委员会会议。由上海市民代表会议直接选举产生了上海特别市市政府，并有工人阶级的代表参加政府工作，这都是破天荒的。
上海临时市政府成立后，市政委员会颁布了《上海特别市政府政纲草案》。《政纲草案》充分体现了市政府政权的民主主义性质，提出了收回租界，撤退外国海陆军，废除不平等条约等反帝要求，以及肃清军阀、贪官污吏、土豪劣绅等反封建的要求。此外，《政纲草案》还提出了减轻人民负担，普及平民教育等积极的有建设性的主张。
上海工人武装起义胜利了，上海临时政府成立了，这是上海工人阶级的伟大胜利，也是上海人民的伟大胜利。胜利后的上海，出现了崭新的局面：广大市民沉浸在胜利的喜悦中，他们以各种方式表达着欣喜的心情，红布、鞭炮销售一空，被看作解放的标志、革命的象征的红旗漫天飘扬；在总工会的领导下，各行各业的工人陆续复工，商人陆续复市，整个上海呈现出一派祥和、有序的景象；同时，人民当家做主的思想深入人心，大批工人参加工会，新的工会组织纷纷成立，到3月底，登记的工会组织有500多个，工会会员猛增加到80余万。
上海工人第三次武装起义胜利的消息，很快传到了世界各地，整个欧洲的工人们，有的集会，有的游行，有的演说，他们都用不同的方式，向上海工人阶级表示祝贺。
上海的工人阶级在中国共产党领导下，第一次用自己的武装力量消灭了盘踞在上海的反动军阀，占领了上海除租界以外的地区；打碎了上海的旧的国家机器，建立了由民众直接选举的上海市民政府，沉重地打击了帝国主义和封建主义，它的伟大意义永垂青史，彪炳史册。