为了给总工会的成立制造障碍，军警在工人必经之路上设置层层关卡，荷枪实弹，企图阻止大会的召开。
当工人走到大通路时，突然被一队军警拦住了去路。靳云鹗带着郑州市警察局长黄殿辰走过去对工人代表们说：“奉吴巡阅使的命令，不准你们送匾！”
走在前头的工人代表不服，问道：“为什么不准我们送匾？你们不是同意我们开会吗？”
靳云鹗说：“我们是执行上司的命令，不准你们到会场去！”一个工人代表气愤地向靳云鹗、黄殿辰质问道：“我们是为大会送礼品，为什么不准去？难道路也不准我们走了？”靳云鹗、黄殿辰不答话，也不准工人代表前进一步。工人代表们气愤至极，向前猛冲，军警防线被冲垮。军警马上将冲过去的人又包围起来，他们仗着人多有武器，强行将工人代表手中的匾砸毁，扔在路上，然后进行踩踏。工人代表们怒不可遏，一齐拥至开会地点——普乐戏园。园门已被军警封禁，工人代表们忍无可忍，强行破门而入。
京汉铁路局局长赵继贤马上赶到了会场。他见工人代表们正在紧锣密鼓地商量开会的问题，高声喊道：“这里不准开会，不准人演讲，不准鸣炮，限大家在5分钟内自行解散离开。不然，用武力解决问题。如有人反抗，一律军法从事！”
在场工人代表听到赵继贤的喊话，非常愤怒。有的当面痛骂赵继贤、黄殿辰。
过了一会，工人代表们见5分钟的时间快到了，感到在园内开会已不可能，便在园内一个劲地高呼口号：“劳工万岁！”“打倒军阀！”“京汉铁路总工会万岁！”“工人大团结万岁！”
这时，军警已层层包围了会场，会议代表很快被驱散，各地工会赠送的匾额被捣毁。军警越来越多，并将普乐戏园围得水泄不通。工人们不愿离开，军警就用刺刀将工人往外赶。旅馆、饭馆、总工会办公的地方等到处都是军警。他们逼迫工人离开郑州，工人代表的安全受到严重威胁。
总工会负责人见事态严重，走到杨德甫身边轻声说：“为减少不必要的牺牲，赶快宣布一下京汉铁路总工会成立，然后解散。”
杨德甫、施洋等人也同意这个意见。在一片混乱中，杨德甫高声向在场的工人代表们喊道：“现在我宣布，京汉铁路总工会正式成立！”
顿时，会场欢声雷动。代表们举起拳头，一遍又一遍地高呼：“京汉铁路总工会万岁！”
出了普乐戏园，工人代表向黄殿辰要求将未砸坏的匾送到总工会去，黄殿辰不同意。工人代表再三与他交涉，他仍不同意。代表们无法，只得各自回到住地。
当日下午，代表和来宾们冲出会场回到了住的旅馆，都被军警包围。代表们被监视，不准走动，不准交谈，连原来在万年春饭馆订的饭菜也不准去吃，代表们完全失去了自由。随后黄殿辰带领军警捣毁了总工会和郑州分会会所，摘去工会匾额，室内什物都被抢劫一空，然后加以封闭，并扬言代表和来宾们如不迅速离开郑州，军警就实行驱逐。代表和来宾们受此凌辱，愤怒难忍。于是他们分别举行会议，一致主张，应立即罢工，力争工会组织的自由。后来，他们还致函京汉铁路总工会，表示：“京汉铁路总工会之能否健全，实全国工人之共同问题。我们希望京汉铁路总工会必能为争取自由而取最后奋斗之手段，各工团誓必为实力的后盾。”
军警还限工人代表们当天晚上必须离开郑州，如不离开，第二天即行逮捕。
在千钧一发之际，党在京汉路的主要领导人及时召开会议，决定把总工会的临时办公处迁至汉口江岸，在京汉铁路总工会的领导下进行全路总同盟罢工，对抗当局的屠杀政策。彰德负责人林育南认为，形势危急，在郑州硬斗下去也不是办法，很可能要付出很大的牺牲，不如暂时退一步，让各地代表回到本地开展斗争。留得青山在，不怕没柴烧。他向京汉铁路总工会建议，马上开一个紧急会议，研究一个统一的临时行动方案。总工会采纳了他的建议。
当天晚上，在花地岗一个铁路工人家里，总工会执行委员会举行秘密会议。参加会议的除京汉铁路总工会负责人杨德甫、史文彬、凌楚藩、李震瀛、项德隆、吴汝铭以及执行委员外，中共中央特派代表张特立、劳动组合书记总部副主任罗章龙、中共武汉区委书记陈潭秋、武汉劳动组合书记分部主任林育南、中共北京区委执行委员包惠僧和法律顾问施洋等也参加了会议。与会者“均认为此次事件，不独为工人阶级之耻辱，而且是全国民众的耻辱，非独为工人阶级之利益而斗争，而且是为全国民众集会结社自由而斗争，遂下宁为玉碎，毋为瓦全之最大决心”。决定发动全路总罢工来反抗吴佩孚的武力压迫。在通过的罢工决议中说：“我们为力争自由起见，决于本月4日午刻宣布京汉铁路全体总同盟大罢工。同时为事实上的便利起见，总工会决移江岸办公，全路一切进行，于罢工期内，全视总工会命令而定。我们是为争自由作战，争人权作战，只有前进，决无后退。”根据决议，总工会决定实行京汉铁路总同盟罢工。
罢工决议定下之后，会议就罢工的领导力量、罢工的方针政策和罢工要求条件等问题进行了认真讨论，做出了决定。主要内容是：（1）鉴于京汉铁路总工会在郑州已不能存在，从2月3日起总工会移江岸办公，成立总工会临时办事处，会同湖北全省工团联合会领导这次大罢工。（2）依照京汉铁路总工会和分工会组织体制系统，建立两级罢工委员会，负责全路和各地罢工的组织指挥工作。总工会罢工委员会由杨德甫、史文彬、凌楚藩、李震瀛、项德隆和吴汝铭等组成。长辛店分工会罢工委员会由史文彬、吴汝铭、陈励懋、张德惠、王俊和洪永福等负责。江岸分工会罢工委员会由林祥谦、项德隆、姜肇基、朱蓝田、张濂光、罗海臣和曾玉良等负责。郑州分工会罢工委员会由高斌、凌楚藩、刘文松、姜海士和李焕章等负责。罢工期间权力集中，罢工和复工等重大问题，一切都要听从总工会罢工委员会的命令。（3）罢工前必须做好各项准备工作。各地代表回去向工人揭露吴佩孚武力摧残总工会成立大会的罪行，传达总工会关于总同盟大罢工的决定，建立纠察团、调查团和宣传队，依照10人一组把全路工人组织到罢工斗争中来。罢工期间，全体工人要遵循《京汉铁路总工会紧要通告》中规定的5项罢工规约：须遵从工会一切的命令，不得自由行动；须遵守秩序，不得扰乱地方安宁；须静居家中或工会，不得三五成群在外闲游；一切事务均由委员会办理，私人不得接洽或交涉；遇到紧急事时，不得退缩或躲避。（4）决定提出罢工各项要求条件，届时发表罢工宣言。各项要求条件是：一、要求由交通部撤革京汉铁路局局长赵继贤和南段段长冯汇，要求吴、靳及豫省当局撤革查办黄殿辰。二、要求路局赔偿开成立大会之损失6000元。三、所有当日在郑被军阀扣留之一切匾额礼物，要求郑州地方长官，用军乐队奏乐送还总工会郑州会所；所有占领郑州分会之军队，立即撤退，郑州分会匾额重新挂起，一切会中损失，由郑州分会开单索还，并由郑州地方长官到会道歉。四、要求每星期休息，并照发工资。五、要求阳历年放假一星期，并照发工资。以上要求，自2月2日正午10时起，如48小时以内军政当局不作答复，就发表宣言，于4日午刻举行全路工人同盟大罢工。
中国劳动组合书记部总部也在2月4日向全国各工团发出通电，号召全国工人阶级，为了提高自己的经济、政治权益，要对京汉铁路工人的罢工斗争实行援助，震惊中外的京汉铁路大罢工爆发了。