为增强工人同资本家谈判的力量，4月9日，京汉铁路各工团代表在长辛店召开发起成立全路总工会的筹备会，江岸代表杨德甫被选为筹备会主任。
6月，长辛店工人俱乐部根据工人的要求，向京汉铁路局局长赵继贤提出呈文，提出改善工人生活条件的8项要求：（1）厂中日后上任工人，均要通过工人俱乐部委员会，厂内司事，不得私行荐人。（2）从今日起，工人应每人每日加薪一毛，以后凡做工满二年的工人，如果没有增加工薪者，应立即增加；（3）短牌工人，凡做工满二年者，均应改为长牌；（4） 请当局明白布告司机工人的头等工资，应做工多少年才能得到；（5）此次直奉战争开车生火及地处前线的工人应加薪一级；（6）北京、琉璃河、高碑店、保定府等处，应由当局盖行车公寓；（7）长辛店应盖官房给工人住宿；（8）工人因工受伤者，养病期间应照发工薪。但是，对于工人的要求，赵继贤一直拖着，没有答应。一个月后，工人也没有得到答复。无奈之下，工人俱乐部向北京党组织请示后，于8月20日发出通告，要求赵继贤在3天内给予答复。22日，赵继贤虽然口头答应“研究答复”，但没有任何实际行动。俱乐部立即下达了最后通牒，限赵于24小时内答复，如果不答复，工人将举行罢工。
赵继贤仍然不理会工人的最后通牒。工人忍无可忍，决定举行罢工。邓中夏在工人会议上进行了罢工动员，并亲自宣布罢工命令，决定于24日早7时开始罢工。会上，通过了罢工宣言。宣言对工人进行罢工的理由进行了说明，认为，工人要求的权利“都是我们应得之权利，并没有出乎铁路规章之份，乃铁路当局，竟吝不与我求，我们迫不得已，只得全体罢工”。
24日早晨7时许，长辛店3000多工人，手执白旗，旗上写着“不得食不如死”、“打破资本专制”、“不达目的不止”、“劳工奋斗”等口号，举行罢工誓师大会。为了维持罢工的秩序，俱乐部还组织了纠察队和调查团，监督厂方和军警行动，防止敌人破坏，并及时研究敌人的行动。
为支援长辛店工人的罢工斗争，郑州京汉路工人在党组织领导下，25日、26日举行了同盟罢工。至“26日晨7时，郑州工作状态完全宣告终止，各车均停。罢工宣言已散布全埠”。同时，许州、郾城、信阳等地也积极响应。陇海铁路工人发表声明，支持京汉路长辛店工人的罢工，宣称“如3日内不答复工人的要求”，陇海路将一致举行罢工支援。随着罢工风潮的日益扩大，赵继贤害怕罢工蔓延全路，造成更大的经济损失，只得暂时作了让步。答应京汉铁路北段从9月起，中段从10月起，南段从11月起，工人每日加薪一角。至此，罢工取得了胜利，长辛店于26日正式复工。长辛店工人俱乐部在复工宣言中说：“我们所提条件，现已得到当局明确答复，我们视为暂时满意，现行恢复原状，静待当局履行之若何，如当局口是心非，毫无信用，我们亦只得秣马厉兵，图第二次决斗。”
27日，长辛店召开了3000多工人参加的庆祝罢工胜利大会。邓中夏在大会上讲了话，称赞了这次罢工斗争中工人所表现出来的组织性、纪律性，不怕牺牲、团结奋斗的精神。会后，长辛店工人举行了游行示威。工人把一面写有罢工胜利口号的大旗挂在复工后第一列开往汉口的火车头上，大旗一直飘扬到汉口。
为庆祝长辛店工人8月罢工的胜利，郑州铁路工人举行了盛大的庆祝活动，“燃放爆竹万余”，游行示威张贴标语，使广大人民群众“莫不表示钦羡工人阶级之忱，有欢呼者，有鼓掌者，大有万人空巷之势”。罢工斗争的胜利显示了工人阶级团结的力量，扩大了工人组织的影响，也取得了各界群众的支持，积累了一定的社会基础。
长辛店罢工的胜利，对彰德、新乡等地的工人运动产生了极大的影响。不到10天时间，彰德铁路工人俱乐部即由原来的72人发展到1000多人，由俱乐部改为工会。道清路于9月11日晚召开了第一次工人俱乐部筹备会，14日，工人俱乐部正式成立。新乡车站于12月4日独立建立了工会（原属彰德工会），会员有200余人。信阳工人俱乐部遵照总工会新章程改组，黄河南岸、许州、郾城等地工会也都得到了发展。李大钊在《中国工人运动的趋势》一文中写到：1922年初“关于京汉线的工会，大体上又分成南段和北段，这里工会组织比较发达，工人运动也有相当的成效”。
到1922年底，在河南境内的京汉、陇海两铁路上的主要城镇基本上都已建立了党的基层组织或已经有党员在开展工作。
由于京汉铁路纵贯河北、河南和湖北三省，地理位置特殊，有重要的经济、政治和军事意义，为防止铁路工人联合起来组织罢工，保证自己在铁路运营中的收入来源，吴佩孚采取正反两手：在公开场合，他高举“保护劳工”的幌子，承认工人的一些权利；暗中却磨刀霍霍，积极准备对付工人的罢工运动。他从自己的队伍中选了一些士兵，组织了“学兵队”，要求他们学习机车驾驶技术，以在必要的时候取代工人。不但如此，他还命令铁路南段段长冯沄组织“同人通谊会”，分裂工人群众的关系，抵消共产党在工人中的影响力。但是，他的这些措施都没有取得预想的效果。
从1922年下半年开始，工人组织迅速发展起来：武汉地区就有20个工团组织的工团联合会，会员约3万人；湖南有14个工团组织的工团联合会，会员约4万人；汉冶萍有5个工团组织的总工会；铁路工人虽然还没有组成全国铁路总工会，但有组织的工会会员达4万余人等。虽然各地有了工团联合会或总工会等工人组织，但全国性的工人运动组织还没有建立起来。为了更好地领导工人运动，成立统一的工人组织被迫切地提上了日程。按照中国劳动组合书记部计划：京汉铁路总工会应优先成立，然后再成立各路总工会，最后成立全国铁路总工会，作为铁路工人运动的总机关；而在各个城市，则是成立各个行业工会，再成立各个城市工团联合会。最后，准备在1923年5月1日召开第二次全国劳动大会，成立一个统一的工人组织，谋求全国工人运动的统一。
这一时期，有一个因素不容忽视：国际环境和中国政治局势都发生了深刻变化。英美帝国主义加强了在中国的力量，从而加强了直系军阀在北京的地位。为了实现其政治野心，在“统一中国”的口号下，在英美帝国主义帮助下，吴佩孚在1922年底到1923年初，向华南革命力量发动了进攻。正在迅速发展的工人运动对吴佩孚实现其野心形成了重大的阻碍。帝国主义者和中国军阀认为，铁路工人即将实现的大团结是对他们实现奴役中国的威胁。认为，工人运动是其实现其计划的障碍，会阻碍其在中国的野心的实现。伦敦《泰晤士报》说：“革命党企图造成局势，如果铁路工人操纵了这个运动，他们就能够在必要时妨碍军事行动。”正因为如此，军阀吴佩孚对工人的罢工运动采取了血腥镇压的措施。与外国势力加紧侵略中国相适应，这一时期的工人罢工运动的一个突出特点是：工人罢工运动中的政治目标逐步显现。比如1923年1月，在汉口的英国烟厂、英国花厂的工人举行了罢工。罢工工会发布宣言和通电，谴责汉口英国当局无视中国主权，抨击外国资本家待工人如奴隶，并要求断绝中英贸易。罢工工人的要求把改善自身经济待遇的经济斗争同反对帝国主义的政治斗争结合起来，使它具有显著的反帝色彩。英国当局和外国资本家在罢工工人的打击下，只得承认工会有代表工人的权利。
1926年2月7日的《京报》副刊上发表文章，认为企图利用工人的独裁者吴佩孚，在此时开始认识到工人群众的结合并不只是为加薪及缩短工作时间，而是形成中国革命运动中的一种极有纪律和力量的中坚力量。于是，他不得不抛弃其伪政策，而骤然施展其凶残毒辣的手段去制止和镇压，甚至解散封闭工人在郑州的结合。等到工人因争集会、结社的自由而起来举行大罢工时，吴佩孚更惊恐地知道工人阶级确实是国民革命的急先锋。惊恐的结果，遂造成“二七”之流血事件。