直系吴佩孚在河南的部队也向北开拔，到达高碑店，留驻郑州部队严密监视在洛阳的西北边防军一、四两旅的行动。曹锟的部队也由保定开赴高碑店。9日，曹锟在天津举行誓师典礼，所率部队为讨逆军，设大本营于天津。前线司令部设在高碑店，任命吴佩孚为前线总司令兼西路总指挥、曹锳为东路总指挥、王承斌(第一混成旅旅长)驻郑州为后路总指挥。
7月9日，张作霖由军粮城回到奉天，10日致电段祺瑞，劝段勿袒护徐树铮。同时，张作霖通电全国，宣布派兵入关，决心加入直系倒皖战争的行列。11日在奉天巡阅使署开会，决定由二十七师、二十八师各派一旅入关，保护京奉路。同一天，曹锟致电张作霖，希望在对皖战争中得到奉军的支持。11日，张作霖致电曹锟，说他已派遣第二十八师先行入关，派张景惠为关内奉军总司令。直军和进关奉军总计约有七八万人，可以应付东西两线的战争，并向曹锟保证：“我辈骨肉至交，当此危机存亡关头，不能不竭力相助。”
13日，张作霖向全国发出通电称：“作霖奉大总统令入都。”这时张作霖的态度不是局外中立了，公开站到直系一边倒皖。张作霖派兵进关助直倒皖的借口是说，他破获了皖系曾云霈让姚步瀛等人在东三省搞颠覆活动。
不久，直皖战争就爆发了。
战争爆发前，段祺瑞密电长江上游总司令吴光新调遣驻鄂西的部队集中到汉口，牵制和袭击直军的后路。7月16日，湖北督军王占元按照吴佩孚的指示，将吴光新扣押，部队被缴械。皖系驻洛阳的西北边防军第一、四两个混成旅，按照段的密电，配合京畿皖系的军事行动，但因处在直、奉包围中，未敢轻举妄动。7月27日，吴佩孚致电该两旅解除武装，他们不愿归顺，7月30日，直军王承斌旅会同奉军合力围剿，该两旅向西北方向逃窜。皖军在山东与直隶交界处的边防军第三师，拟夺取德州兵工厂，然后北上与东路皖军会师。19日，师长陈文运率部发动总攻击，夺取德州。但是此时皖军东西两路已失败，边防军第三师成了孤军，在天津的龙济光振武军去接应边防军第三师，旋被奉军击溃缴械。26日，直军在奉军的配合下，向边防军第三师进攻，该师被击败予以遣散。至此，皖军被直军彻底打垮。
战争发动前，82岁的淮军宿将姜桂题劝段祺瑞不要打仗，并斥责徐树铮说：“什么坏事，都要你小子给闹出来了。”定国军总参议傅良佐也力陈皖系决非直军之敌，双方打起来必败无疑。可是这些苦口良言，段祺瑞一点儿也听不进去。如今惨败，悔恨交加，经过多年编练的边防军，不堪一击，彻底完蛋，意欲自戕，幸左右监护严密，百般劝解，方得宽慰。
7月18日，靳云鹏去见段，向他进言说：“战争已完全失败，边防军战斗力已失，要不从速解决，恐三数日内京中粮食告罄，将令全军不战自溃。至兵临城下，为时已晚，追悔莫及矣！”段表示同意，便请徐世昌下令停战。是日，徐世昌颁布停战令，责成各路将领迅饬各守防线，停止进攻，听候命令解决。
7月19日，段祺瑞通电引咎辞职。段在通电中把战败说成是外交团警告和大总统的电谕而停止战斗，时至今日，仍然摆出刚愎自用的架子，推卸发动战争的责任。
直皖战争于18日基本结束。从23日起，直、奉两军的先头部队陆续开进北京，相约不入城，分别接收南苑、北苑的营房。26日，徐世昌下令撤销对曹锟、吴佩孚的处分。28日，徐又批准段祺瑞辞职，撤销督办边办事处，西北边防军由陆军部接收。
7月19日，徐世昌委派靳云鹏、姜桂题、傅良佐、张怀芝等六人，携带经过段祺瑞同意的四点方案(一、惩办徐树铮，二、解散边防军，三、解散安福系及罢免曾毓隽、李思浩、朱深三总长，四、解散安福国会)赴天津与直、奉方面议和。当时曹锟、张作霖均不在津，直隶省长曹锐对他们态度冷淡。傅良佐因替段祺瑞说客，被曹锐扣押，并缴械其武装警卫170多人，姜桂题等4人返京，靳云鹏则去奉天与张作霖磋商。
靳云鹏向张作霖转述了徐世昌的四点方案。徐世昌主张惩办极少数几个人，对段不予追究。靳希望给段留点儿面子，不要使他太难堪。张作霖同段祺瑞的交谊原本不恶，主要是怕徐树铮掌握大权，现在安福系和徐树铮垮台，这时出面为段转圜，可以争取皖系势力的支持，增加同直系抗衡的力量，所以同意徐世昌的四点方案。张作霖看到段祺瑞19日发出的引咎辞职电报时，当即复电说：“引责各节，不忍卒谈。”“吾公一世英名，坏于群小之手，言念及之，泪如下雨。”表示，“作霖当躬率三军，愿为督办扫除群小，至对于督办，决不稍有侵犯。”23日，张作霖又给段祺瑞去电安慰说：“翼青(靳云鹏)到奉，业已接洽，窃念此次兴戎，譬如子弟相争，无关长者，为父兄者尽可置之不问，任凭子弟自行设法了结，今日之事，无以异此。伏望我督办切勿介怀，遇事仍襄助元首、维持大局，并救济近畿一带之生灵。作霖日内到津，即当约集曹使，联络各省，筹商善后一切事实，以资收束，溽暑逼人。尤望勉节忧劳，为国珍摄，无任盼祷。”张作霖这两份电报，为保护段祺瑞，处理善后定下了基调。
吴佩孚对善后处理的主张，与张作霖相反，要求严厉处置皖系，“非将奸党歼除不可”。提出六项要求：一、解散边防军，取消边防督办官制；二、取消西北筹边使官制；三、安置段祺瑞于汤山，候国民公决；四、徐树铮、曾毓隽、朱深、李思浩、丁土源五人交法庭审办；五、国会停止办公；六、追究安福系首领王揖唐及安福系议员，永褫公权。这六项条件得到曹锟、李纯、陈光运、王占元等人的赞同，作为向北京政府正式提出的处理善后问题的条件。吴佩孚还提出从速召集国民大会，以共商国是的主张。吴佩孚这个主张，立即引起张作霖的不满。25日，张作霖偕靳云鹏到天津。他向记者表示，他“不与吴佩孚接洽一切，仅与曹锟接洽”。并指出：“吴只不过一师长，不应干涉政治。”这说明，在直、皖两个军阀之争结束之后，直、奉两个军阀的关系开始出现裂痕。
7月29日，曹锟、张作霖、靳云鹏及各省代表在天津曹家花园讨论直皖战争的善后处理问题。会议决定以下几个问题：
组阁问题。组阁是当务之急。然而，曹锟、张作霖和徐世昌各有各的打算，徐世昌想要他的老朋友周树模组阁。曹锟首先不赞成，认为：“周是个老官僚，主张王世珍组阁，王是北洋老前辈，性情平和，与世无争，出主中枢有利于南北统一。”张作霖则认为：“与其由周氏组阁不如使靳云鹏复职，俾各方面均易融洽。”徐世昌、曹锟放弃自己的意见，同意由靳云鹏复职担任总理。靳本人表示“愧对师门”不愿复职，张作霖极力怂恿，并保证给予支持。吴佩孚对靳说：“闻公不欲组阁，公私两途，皆为最便，佩孚实表赞同。”靳得到各方面的赞同，才表示同意组阁。8月9日，徐世昌颁发了“特任靳云鹏署国务院总理”的命令。各部总长是：外交总长颜惠庆、内务总长张志潭、财政总长周自齐、陆军总长靳云鹏(兼)、海军总长萨镇冰、司法总长董康、教育总长范廉源、农商总长王迺斌、交通总长叶恭绰。张志潭、董康为直系，王迺斌属奉系，靳、周、叶均倾向奉系。这个内阁的组成，反映了战后直、奉两系，特别是奉系在中央势力的增长。
直系为了防止段祺瑞、徐树铮东山再起，要求彻底铲除段派势力。一是处分段祺瑞，驱出北京，放逐汤山，听候国民公决；一是严惩安福系。
吴佩孚坚决主张段祺瑞离开北京，他曾说：“段总不宜再居京中，如恐汤山时有外人游玩，诸多不便，何妨改住西陵，我可派一营担任保护。”曹锟也主张段离开北京，他表示：“段在北京，我们不便来，须先请他回避。”但是徐世昌、张作霖、靳云鹏都不赞成。徐世昌认为段“三造共和，参战提高国际地位”，“有殊勋民国，朝野属望綦段”。坚决不同意再作进一步处置，“惩治祸首，须将段撇开，不能伤其体面”。靳云鹏极力向张作霖、曹锟求情，如果再有轨外活动，他负完全责任。7月27日，北京内阁会议上，已决定不将段列入惩办祸首名单。曹、张进京后，徐世昌、靳云鹏又一再为段说情。张作霖表示理解和支持，曹锟不好再坚持己见。处分段的问题也就放下了。
天津会议还讨论了吴佩孚提出的召开国民大会的主张。8月1日，吴佩孚发表关于召开国民大会、共商国是的通电。吴佩孚认为，解决军阀之纷争，只有召开国民大会，一切重大问题，由国民公决。张作霖看出国民大会是吴佩孚沽名钓誉，企图制造一个政治工具来实现个人的政治野心，于是首先起来反对。8月2日，吴佩孚应曹锟之召，到天津谒见张作霖，陈述召开国民大会的意见时，张作霖即表示反对。吴退出后，张作霖对曹锟说：“吴某通电，三哥曾否赞成。我则事前一无所知，如三哥任其所为，则我将单独通电反对。”曹锟在政治上不是张作霖的对手，没有张作霖那种机敏灵活的头脑，开始他同意吴佩孚的主张，现在张作霖表示反对，他又不敢与张争论，只好退让。因此，吴的通电未发往全国各省，只在京、沪的一些报上有所披载。8月13日，张作霖对日本记者谈话时说：“国民大会非可为问题也，该会系吴子玉将军所主唱，然其背后有某国人煽动操纵，吴氏不过为其傀儡耳，就中国现状观之，此事万属不可能。”
吴佩孚还想通过合法手段，取消徐世昌的总统地位，吴佩孚对徐世昌素无好感，他认为徐是个思想陈旧的官僚，毫无原则的昏庸老朽，不能担任总统。然而，张作霖是拥护徐世昌的，安福国会拥戴徐当总统时，张作霖就表示赞成。徐虽为安福国会所选出，但是后来受安福系的排挤，对安福国会的专横也是不满的。而且在直奉联合反对安福系中，徐是一个同盟者，现在斗争取得胜利，反要把徐撵下台，未免不尽情理；让徐留在总统位置上，对于维护北洋集团的统治是有好处的。曹锟的态度是“无可无不可”。最后，张作霖的意见占了上风，吴佩孚被迫放弃了自己的要求。吴在善后处理的一系列重大问题上，被徐世昌、张作霖一一拒绝，心中愤愤不平。8月17日，吴离开北京，把部队开到洛阳练兵，积极扩充自己的军事实力。
直皖战争以后，直系和奉系在政治上和军事上都捞到了很大好处。8月下旬，曹锟、张作霖、徐世昌、靳云鹏之间，在张志潭、叶恭绰、吴笈孙三人的参与斡旋下，经过多次协商，达成政治分赃协议：一、以后国家大计，须先征求曹、张同意以后再进行；二、在东三省以及直、鲁、豫三省的巡阅使范围内，用人行政，政府予曹、张以方便，不能有所干涉；三、总统地位，由曹、张竭力维持，曹汝霖、陆宗舆亦由曹、张负责保全其面子；四、靳内阁如有为难处，曹、张予以援助；五、各省如有不服从中央命令者，曹、张有劝告之责；六、段祺瑞生命财产，曹、张予以保全。此外，关于曹、张两系之间的势力问题，则采取平均分配办法，如西北军之军械归奉军所有，九师、十五师划归直系；在京抄没的皖派军械，亦由直、奉均等分配；此次讨皖的直、奉军，以后由陆军部发饷，并且规定每月发饷之准期；直、奉两军驻近畿之兵，各为一师等等。
曹锟和张作霖在北京住了一个月，善后问题解决后离京，各回防地。北京政府原来由皖系所控制，现在由直、奉两系控制。原来直、皖两系的对抗，由直、奉两系新的对抗所取代。
1921年4月，第三次组阁的国务总理靳云鹏为解决许多亟待解决的问题，邀请曹锟、张作霖和王占元三巡阅使到天津开会。史称“四巨头会议”。
东三省巡阅使张作霖不以占领东三省为其最后的目标，他有更大的野心。曹锟为直、鲁、豫巡阅使，再加上直系在长江领域的辖区，俨然占有了半壁江山。因此，徐世昌过去只受段祺瑞一个人管，现在变成两个人管了。而这两位又常常意见不一致，为了自己集团的利益争吵不休，徐世昌这个小媳妇总统很难当。
这时又加进来一个湖北督军王占元。此时，王已被提升为两湖巡阅使，仍兼湖北督军。他继李纯之后，成为长江三督的领袖，也称得上是个大军阀了。他的地盘紧靠西南，因此同西南军阀的关系很是密切，他们打得火热。西南军阀也需要和平自保，便宣布“自治”。因此，王占元便乘机同重庆镇守使兼川军总司令刘湘签订了《川鄂联防条约》，又同湖南督军兼湘军总司令赵恒惕、刘湘签订了《湘鄂赣联防条约》，和平共处，互不侵犯。两湖地区就成为一个缓冲地带。而王占元同西南军阀的善邻关系，反而成为他向北京政府讨价还价的资本。北京政府幻想统一全国，就不得不重视王占元。因此，两湖巡阅使王占元也被邀请参加天津会议。
张作霖于1921年4月15日，启程赴津。一行有总参谋长许兰洲、顾问日本人町野舞马中校以及其他幕僚，同时带领卫队、机关枪队一个连，步兵一个营。一行于16日清晨到达天津新站，下榻于河北街恒记德军衣庄。与张作霖事先约好了的曹锟随后于16日午后6时，到达天津，入住曹家花园。
当晚曹锟拜会了张作霖，举行了第一次会见。张作霖和叶恭绰、王迺斌、张景惠、曹锟、曹锐等共进晚餐，并就内阁等问题交换了意见。他们主张在天津开会，内阁总理靳云鹏只得听他们的，也于18日到天津。张作霖一见到曹锟，就故作亲切地握着曹锟的手，话里有话地问道：“三哥，你看亲戚亲呢，还是部下亲？”把曹锟造得一头雾水，一时语塞。张作霖的意思，亲戚是指他自己。因为张作霖的第四子张学思和曹锟的第六女曹士英定了亲，那时定亲就是亲家。部下是指曹锟的干将吴佩孚。接着，张作霖就显得极为关切地给曹锟出主意，让他注意吴佩孚，说吴佩孚有很大的个人野心，很难驾驭。张作霖表面关心，实则挑拨。张作霖是作戏的能手，他对曹锟表示衷心，指天誓日地说：“我绝对拥护你，如有异言，他日必死于炮火之下。”当然，曹锟也不是那么好骗的，他和张作霖虚与委蛇。
因河南战事耽误行程的王占元，于4月25日晨终于到达天津，进入前奥租界新邸。25日，在曹家花园，靳云鹏、张作霖、曹锟和王占元四巨头会议开始，议论了讨伐南方的问题。以后的会议在曹家花园和恒记德军衣庄轮流举行。这一次不是过去召开的督军团会议，而是比督军高一级的巡阅使会议，引人注目。“天下耳目尽皆集中天津”。其实，正式会议只开了两天，27日，通过谴责孙中山的电报，指斥广东选举总统，破坏统一。在电报上署名的有张、曹、王三巡阅使和各省军民长官32人。28日，讨论财政问题，这是会议的焦点。列席会议的曹锟的弟弟直隶省长曹锐首先发难，指责内阁在分配军费上不公。他提出，直军欠饷平均半年以上，而奉军欠饷不过两月。但最近一个时期内，奉军借口援助库仑难民，先后领到军费200万元和开拔费100万元，而直军才领到50万元。