中国共产党的诞生，是中国现代史上划时代的事件。中国共产党成立后，中国革命的面貌焕然一新，而中国工人阶级从此就有了自己坚强的领导核心。中国共产党从诞生的第一天起，就决定集中全力从事工人运动。1921年11月，在《中国共产党中央局通告》中，明确提出“以全力组织全国铁道工会”，成立京汉铁路总工会，则是实施这一计划的一项战略部署。
由于党从思想和组织上加强了领导，京汉铁路的工人运动由长辛店这一点取得了突破，做出了示范，由北向南全线发展，走在了工人运动的前列。随后，长辛店工人建立了自己的工会组织。继长辛店铁路工会诞生以后，郑州铁路工人于9月成立了“京汉铁路工人俱乐部”。1922年1月22日，江岸京汉铁路工人俱乐部也宣告成立。这样，京汉铁路工人运动就以星火燎原之势，呈现了南北呼应、全线发展的新局面。
1922年4月9日，在中国劳动组合书记部北方分部的领导下，由长辛店工人俱乐部发起，在长辛店召开了第一次京汉铁路总工会筹备会议。京汉铁路各地工会组织或将要建立的工会组织都派出代表参加，中国劳动组合书记部主任邓中夏主持会议，并讲了话。为了筹备这次会议，长辛店铁路工会在上坡店租了会场，扎制了松柏彩门。会议开了3天。经过认真讨论，代表们将全路分团作了详细的分析和划分，确定了京汉铁路总工会的雏形。这次会议的主要议题是宣传介绍和学习推广长辛店工人罢工运动的经验，推动京汉铁路工人运动广泛、深入地发展；商讨京汉铁路总工会的筹建工作，积极建立健全各地的工会组织，加强全路工人在工人运动中的团结。这次会议上决定临时组成京汉铁路总工会筹备会，推举江岸的杨德甫为主任，长辛店的史文彬和郑州的凌楚藩为副主任，负责京汉铁路总工会的筹备工作。
第一次京汉铁路筹备会议后不久，由中国劳动组合书记部发起，第一次全国劳动大会于5月在广州召开，京汉、京奉、陇海等都派代表参加大会。这次会议除通过了《全国总工会组织原则决议案》等议案外，决定“以产业组合为原则”，首先组织各地方的产业工会，以便将来成立全国总工会。
8月10日至12日，第二次京汉铁路总工会筹备会议在郑州召开。
出席会议的代表有14人，代表全路14个工人俱乐部组织。为了加强对这次筹备会的领导，中共中央委员张国焘、中共北方区委委员包惠僧到会指导，江岸工人俱乐部文书项德隆（即项英）也参加了会议。会议的议程主要有四项：（1）各地代表报告各处工人俱乐部的整饬经过及工人运动现状；（2）讨论京汉铁路总工会的组织设置和章程草案；（3）讨论成立京汉铁路总工会的筹备事项；（4）研究处理与会代表提交的各项提案。会议推选郑州代表高斌为主席。
筹备会议集中讨论了京汉铁路总工会的组织设置、章程草案和筹备委员会人选。一致同意总工会设在郑州，在长辛店和江岸两地设立总工会的办事处，在郑州正式成立京汉铁路总工会筹备委员会。在总工会未成立大会之前，由筹备委员会行使总工会的一切职权。会议还决定，各站的工人俱乐部要改组为京汉铁路总工会分工会。会议起草和讨论了《京汉铁路总工会章程草案》（以下简称《章程草案》），这个《章程草案》的第二条说：本会的宗旨是：（1）改良生活，提高地位，谋全体工人的利益，得到共同幸福。（2）联络感情，实行互助，化除地域界限，排解工人互相的争端。（3）增进知识，唤起工人的阶级自觉。（4）联络全国各铁路工人，组织全国铁路总工会，并与全国各业工人和世界工人建立密切的关系。《章程草案》还规定“凡京汉铁路的工人，不分职务、性别、年龄、地域和国籍，皆得为本会会员”。这些规定，表明了京汉铁路工人觉悟的提高，工会也具有了鲜明的阶级性、革命性和战斗性。会议把这个《章程草案》分发给各站代表回去征求工人的意见。会议经过3天的酝酿、讨论，决定成立京汉铁路总工会筹备委员会，推选杨德甫为委员长，史文彬、凌楚藩为副委员长，李震瀛为秘书长，项德隆为总干事，吴汝铭为副总干事。
11月20日，中国劳动组合书记部根据京汉铁路总工会筹备委员会等4个铁路工会组织的倡议，在北京香山卧佛寺召开了成立中华全国铁路总工会的筹备会议，会议由邓中夏主持。到会的有京汉铁路总工会筹委会与长辛店、琉璃河、高碑店、顺德、郑州等分工会的代表，以及唐山、山海关和安源路矿灯铁路的工会代表等32人。会议主要讨论通过成立全国铁路总工会筹备委员会。会议认为，在各路工人运动发展不平衡的情况下，京汉铁路工会是各铁路工会中组织最统一、最团结的一个，并居领导地位，已经具备成立总工会的条件，决定进一步加快总工会的筹建工作，尽快正式成立京汉铁路总工会。
12月，中国共产党制定的《对于目前实际问题之计划》指出，在中国工人阶级中，铁路工人、海员、矿工是“3个有力的分子”，在全国总工会成立以前，要先成立这三个产业的联合组织，作为工会运动的中坚。在铁路工会组织中，以京汉铁路的工作基础较好，因此，中国共产党计划在成立全国铁路总工会以前，首先成立京汉铁路总工会。
1923年1月5日，京汉铁路总工会筹备处在郑州举行了第三次会议。这次会议讨论、修改了《京汉铁路总工会章程草案》。草案规定，每50名工人选出代表一人，出席全路代表大会。会议决定：1923年2月1日，在郑州举行全路代表大会，正式成立京汉铁路总工会。为了维护京汉铁路总工会的正当权益，会议决定聘请“劳工律师”施洋为总工会的法律顾问。
施洋（1889—1923），原名吉超，号万里，字伯高。湖北省竹山县人。
1889年6月13日生于湖北省竹山县施家湾。为寻求革命真理，1914年考入湖北警察学校，期满毕业。次年，又考入湖北私立法政专门学校本科学习法律。1917年毕业后加入武汉律师公会，即被选为副会长。他的收入大都用来保障人权，伸张公理，被广大平民称为“劳工律师”。1921年参加中国劳动组合书记部工作，次年加入中国共产党。曾先后担任武汉工团联合会和京汉铁路总工会的法律顾问，为二七大罢工领导人之一，被捕后英勇就义。
这次会议是根据中国共产党的战略部署，在工人运动高涨的情况下召开的。罢工斗争由要求改善经济待遇走向谋求政治权利的斗争阶段，为尽快实现成立全国铁路总工会的既定计划，从京汉铁路工人运动发展的实际情况出发，加速做好各项准备工作。
会议召开前夕，京汉铁路沿线的长辛店、琉璃河、高碑店、保定、正定（石家庄）、顺德（邢台）、彰德（安阳）、新乡、黄河（黄河南岸）、郑州、徐州（徐昌）、郾城（漯河）、驻马店、信阳、广水、江岸16个站的工人俱乐部，都已经改组为京汉铁路总工会分工会，具备了成立京汉铁路总工会的条件。
成立总工会是在公开的条件下进行的。针对大会的宗旨、开会的日期等问题，北京、天津、上海等地的报纸上作了公开报道。不但如此，为取得铁路当局的支持，筹备会还将举行成立大会的事情，向京汉铁路局局长赵继贤作了报告。同时，考虑到1月28日是星期天，京汉铁路总工会筹备处还向铁路当局提出：28日，京汉铁路系统的工人都不休息，照常工作，2月1日参加全路总工会成立庆典活动。铁路当局也同意了铁路总工会的这一安排。赵继贤对工人采取了两面手法：一方面，他允许在郑州召开成立大会，并给北段代表以免票乘车、南段代表挂专车的“优待”。另一方面，赵继贤却和吴佩孚秘密电报联系，准备武力镇压。1月25日，赵继贤在给吴佩孚的密电中说：“据报2月1日，本路全体工人将在郑州开成立大会，各路与会者甚多，亦未经地方官厅许可集会，竟敢明目张胆，聚众招摇！不特影响所及隐患堪虞，即此目空一切，荒谬绝伦，将来群起效尤，愈演愈烈……瞻顾前途，杞忧无极。”他要求吴佩孚对京汉铁路总工会成立以武力“切实监视”，并做好武力镇压的准备工作。