袁世凯死后，皖系军阀的首领段祺瑞被日本看中。日本人认为，段祺瑞是一个可以代替袁世凯统治中国的傀儡。段祺瑞继承袁世凯的衣钵，也迷信“武力统一”中国的政策，并身体力行。日本人很欣赏他这一点，认为他继袁世凯之后能够掌握中国的政权。但看到段的武力和财力都不足，为此，他们便不遗余力地支持段，给他金钱，送他武器，帮他训练。
段极力鼓吹中国参加第一次世界大战，终于北京政府在1917年8月14日对德、奥宣战。段祺瑞以参战为借口，利用从日本的借款，编练了一支参战军。参战军的总参议就是日本人坂西利八郞。在日本军官的帮助下，参战军迅速组建了三个师、四个混成旅，成了一支很有威慑力的武装力量。但这是段祺瑞的私人军队，是军阀武装。
段祺瑞为了进一步扩充他的实力，曾向日本秘密借款。因为这些借款都是日本人西原龟三从中斡旋联络的，所以叫“西原借款”。西原龟三是日本内阁总理大臣寺内正毅的私人代表。当时的大藏大臣是胜田主计。在寺内正毅内阁，“西原并不担任任何名义，只是做一个幕后的秘书，代寺内、胜田两人筹划献计，无不采纳。他在大藏省内，可以随便命令指挥胜田的幕僚，也能随便指挥兴业等三银行的人员听从他的命令办事，真是一个神秘的人物。”
为了掩人耳目，他所办理的借款都是经过日本的兴业、台湾、朝鲜三个特种银行进行的。1917、1918年的“西原借款”有：交通银行两次借款，有线电报借款，吉会铁路借款，吉黑金矿借款，满蒙四路借款，山东铁路借款，参战借款等。据统计，共计8项借款，借款总额达145亿百万日元。借款的名目繁多，用以掩盖借款的真实目的。这些借款都是拿中国的土地、矿山、森林、铁路等资源作抵押的。“西原借款”是日本变相侵略灭亡中国的险恶阴谋。
段祺瑞对日本的支持感恩戴德，投桃报李。1919年1月，第一次世界大战结束，在“巴黎和会”上，段祺瑞指使参会代表，对收回被战败国德国占领的山东问题不予提出。这就是默认了，日本在山东攫取的德国原来窃取的中国主权是合法的。段祺瑞的卖国行径遭到国人的强烈反对，声名狼藉。但他不顾这些，还是一味地做着“武力统一”中国的美梦。
世界大战结束了，参战军已无存在的理由。为了保留这支他个人的军队，他把参战军先改名为国防军，后又改名为边防军，以欺骗舆论。并派他的心腹和门生徐树铮主管它。
大总统徐世昌虽然是北洋元老，但只是个文人，没有自己的军队，不得不听命于已经下台的内阁总理段祺瑞。经段祺瑞授意，徐世昌于1919年6月24日任命徐树铮为西北筹边使兼西北边防军总司令督办外蒙善后事宜。西北筹边使在官制上和职权上比东三省巡阅使还要大。他有军、民、财的独立权，练兵购械可先行后报，西北各省如内蒙、新疆、甘肃、陕西的文武官吏均须受其节制。
本来徐世昌把他调往西北，是想调虎离山。没想到，徐树铮利用这个机会，秉承段祺瑞的旨意，大肆扩展自己的势力，居然成了西北王。徐树铮是个狂妄自大、心狠手辣的人，做起事来，不计后果。他曾诱杀直系元老将领陆建章，并收买直、奉系的将领，对奉系首领、东三省巡阅使张作霖和直系首领、四省经略使曹锟都极为轻视。除段祺瑞外，老子天下第一。早在1918年，徐树铮在担任奉军副司令期间，就盗用张作霖的军费发展自己的武装，张作霖气愤地把他撤职。那时，张作霖就知道徐树铮不是个省油的灯。段祺瑞和徐树铮的种种做法，引起了直、奉两系军阀的不满。
直系军阀也是很有实力的。直系首领冯国璋死后，代之而起的是曹锟。曹锟有一个智勇双全的爱将吴佩孚。这个吴佩孚可不简单，是个秀才出身，写得一手好文章。关键的是，他很有大局意识，很会把握局势。在同皖系军阀的斗争中，他声名鹊起，渐为人知。从1918年8月起，他就连续发表“罢战主和”的通电，揭露段祺瑞亲日卖国的罪行，谴责段祺瑞“武力统一”中国的政策是“亡国之政策”。
吴佩孚的文武两手策略取得了成功，得到了国人的称赞。直系军阀在国内的地位有所提升。曹锟的地位提升了，吴佩孚的地位提升得更快。从某种程度上讲，吴佩孚实质上已经是直系军阀的首领。吴佩孚的“罢战主和”的主张，其实是扩充他们派系势力的一个漂亮的口号，但对段祺瑞的“武力统一”的政策却是个有力的冲击。
当然，皖系军阀还有许多做法，都引起了直、奉两系军阀的反对。诸如，皖系军阀把持国会，安福俱乐部是皖系的一个政客组织，他们控制了国会，人称“安福国会”。还如，段祺瑞操纵内阁，逼迫内阁总理靳云鹏撤换河南督军赵倜，改派段的内亲吴光新继任，以图阻止吴佩孚撤兵北上等。如此等等，直、皖两系的矛盾愈演愈烈。
此时，直、奉之间也在秘密接触，暗中往来。1920年3月，张作霖在奉天假借办寿的名义，4月9日，曹锟在保定假借追悼直军阵亡将士名义，先后召集八省代表联盟会议，组成反皖联盟。这八省都督是：直督曹锟，苏督李纯，赣督陈光远，鄂督王占元，奉督张作霖，吉督鲍贵卿，黑督孙烈臣，豫督赵倜。他们打出“清君侧”的旗号，表示反对的是徐树铮，而不是段祺瑞。段祺瑞当然不会上当。1920年5月，吴佩孚撤兵北上，6月进驻豫、直等军事重地。6月10日，奉军也借口“拱卫京师”，将驻扎在独流镇的4个营开往廊坊。6月15日，吴佩孚偕同直军的3个混成旅旅长到保定。6月17日，徐树铮闻讯，也由库仑急忙回京，调动皖军积极备战。
直皖两系，剑拔弩张。京津地区，战云密布，大有一触即发之势。就是在这种情况下，大总统徐世昌才电召张作霖入京，来调停直皖之争。
6月19日，张作霖满面春风地出现在北京东车站。
6月20、21两日，张作霖两次晋谒徐世昌，向徐提出以靳恢复国务总理和撤换安福系的李思浩、曾毓隽、朱深三位总长为调停方案。徐表示赞同，并请张去劝说靳留任。张去靳宅，劝靳销假，不要再坚持成见，靳表示自己属段派。当前政局微妙，自己置身其中，处境困难，再干下去，必无良好后果。张作霖同情靳的处境，放弃要求靳复职的努力。
这天，徐树铮和安福系的主要人物在曾毓隽私邸召开会议，分析张作霖进京调停的局势。他们乐观地认为，张作霖进京做调解人，表明奉系不会依附直系，只要张作霖严守中立，皖系战胜直系就有把握，他们提出以推选张作霖为副总统作为交换奉系中立的条件。从张作霖进京，谢绝下榻奉天会馆，徐树铮拜访张又吃了闭门羹，可以看出张作霖对安福系的疏远态度。但是皖系好像并不了解直、奉等省早已结成反皖同盟，所以做出了错误的判断。
6月22日下午，张作霖偕同张景惠等部属以及苏、鄂、赣、豫、绥、察、新(疆)等省、区代表乘车前往保定与曹锟磋商。当晚，曹锟、张作霖、吴佩孚及各省代表开会讨论解决时局方案。吴佩孚发言措辞强烈：“国事如斯，佩孚身为军人，食国之禄，保国之责，义所难辞。部下士兵虽不敢谓久经训练节制之师，但亦颇知大义。”如果安福系“不顾国家，徒以破坏大局为事，佩孚虽能容忍，诚恐部下义愤，亦难压抑”。张作霖见吴佩孚慷慨陈词，侃侃而谈，满口内忧外患，锋芒毕露，对吴的印象不佳，便侧过脸问曹锟：“三哥，我只问你一句，边防军人数比你多，装备比你好，这个仗你能打吗？”曹锟看着吴佩孚说：“能打。”张说：“你有把握吗？”曹锟看着吴说：“子玉(吴佩孚的字)说有把握，那就有把握。”张作霖说：“既然有把握，那就得打，咱们这会儿别讲大道理，先商议几个条件。”经过讨论，大家议了五条：一、靳云鹏复职；二、撤换安福系三位总长；三、撤换王揖唐的议和总代表；四、解散安福系；五、解除徐树铮兵权。张作霖对前三条表示赞同，后两条不置可否。他作为调解人，不愿趋于极端。为了不使徐世昌为难，决定相机行事，前三条能顺利解决，后两条则等靳复职后，从长计议。
23日，张作霖把直系的五项条件带回北京。次日，向徐世昌报告保定会议情况，徐表示可以酌情采纳，不宜操之过急。当晚，段祺瑞在团河行馆设晚宴款待张作霖。席间，段向张表示自己毫无野心，不想当副总统，暗示可以支持张当副总统，张则表示服从督办。谈话转到保定对解决时局的态度问题上，张转达保定要求，三位总长先下野。段说：“希望各方面不要坚持成见。”并表示，“靳云鹏可以复任，安福系三位总长不都下野，至少保留财政、交通两席。”段所以坚持财政、交通两总长不放，是因为这两部是安福系的经济来源。安福系和北京政府的账目混在一起，侵吞了大量公款，仅交通部就有2000万元不能报销的账目。
25日至27日，保定方面连续致电张作霖和徐世昌，要求对时局从速解决，至少先办妥一两件，以安军心，特别是提出裁撤徐树铮的筹边使，边防军划归陆军部管辖。张作霖征得徐世昌的同意，赴团河见段，正式提出免除徐树铮筹边使的职务问题。段含糊其辞地说：“徐树铮得罪人，我亦知之，我对于国家，始终以直道，决无权力之私，现在唯望徐总统收拾时局。”又对人说，“徐有功(外)蒙古，为取消(外)蒙古独立之经手者，不应遽夺其职。”段的基本意思，不同意免除徐树铮职务。其实解除徐树铮的兵权是直、皖之争的焦点，如果能解除徐的兵权，就可以避免一场战争，而段拒绝了直系的要求。
28日，张作霖同段达成一项妥协方案，并得到徐世昌的认可。即解散内阁，靳云鹏不再复任，安福系三位总长下野，由周树模组织新内阁，靳仍任陆军部长，边防军归段祺瑞节制，徐树铮的筹边使保留。段在这个问题上做了掩耳盗铃的让步，实际上依然照旧。当天，张作霖将上述调停情况电告保定方面。保定方面电复张作霖和徐世昌称：对于阁揆问题“悉凭元首主张”，但仍坚持撤销筹边使官制、解除徐树铮兵权、罢免三位总长等条件。7月1日，保定方面发布了《直军将士告边防军、西北边防军将士书》称：“此次直军撤防，原为扫除祸国殃民之安福系及倡乱卖国之徐树铮，对于先进泰斗，同忾友军，毫无恶感及敌对行为。”又称，“全国本属一家，焉有南北之见。北洋原属一体，何有皖直之分。”这是直系采取的清君策略，只提反对安福系和徐树铮，对段祺瑞表示尊重。直系采取这样策略，一是张作霖不主张反段，二是为了分化瓦解皖系的军事力量。
与此同时，安福系与直系针锋相对。6月29日安福系成员一百余人在太平湖俱乐部召开临时大会，讨论对付办法。提出如周树模组阁，安福系必须保留财政、交通两部，以维持现有势力。经过讨论，做出安福系如不保留财政、交通两部，就不通过周树模组阁的决议。
6月30日，张作霖赴团河向段祺瑞转达保定方面的回电所提内容。段拒绝保定方面所提条件，说：“调停政局乃极好之事，惟吴佩孚以一师之长干预政事，要挟条件，此风一开，则中央威信扫地。”张作霖见皖、直两系都不让步，难以调停，向段表示谢绝再做调解人，并于当晚向徐世昌辞行。徐坚持挽留，段祺瑞和安福系担心张离京，局势发展对皖系不利，也挽留张作霖，表示“诸事尚有磋商之余地”，张才答应留下，表示东三省防务紧张，不能在京久留，只能以五日为期，如届时再不能解决，就将卸职不管。
7月1日，安福系又开会，他们认为：直系既然只反对段祺瑞左右的人，对段本人并无意见，应由段组阁；吴佩孚仅一师长干预国政，亦应惩办。如果能做到这两条，就同意解除徐树铮的职务。安福系可以解散，三位总长也愿意辞职。这是对直系要求解除徐树铮的反措施。
徐世昌和张作霖商量，为了打破安福系拥段组阁的阴谋，再为下一步免除徐树铮职务做准备，以减轻安福系的反对。7月2日，北京政府发表了批准靳云鹏辞职的命令，同时提名由周树模组阁的咨文送参议院。安福系认为周树模不好对付，直系也不甚赞同，认为周无力解决当前时局问题，直系真正关心的是解散安福系、罢免徐树铮的问题。7月2日，曹锟致电张作霖并转徐世昌，要求罢免徐树铮一切职务。电称：“安福奸党，倒行逆施，天人共愤，迭经中央申明法纪，迄未奉准，今闻彼党益无忌惮，竟欲拥段组阁，贯彻亡国主义，是皆徐树铮等之鬼蜮伎俩。”“请大总统先行罢免徐树铮各职为入手办法，以平众怒，否则锟实无法排解，惟有不负维系之责。”张作霖也是反对徐树铮的，但是出于策略方面的考虑，他没有提出这个问题。
在直系咄咄逼人的形势下，徐世昌于7月4日在公府召集特别会议，决定由公府颁布命令：一、特任徐树铮为远威将军；二、免去徐树铮西北筹边使职务，留京供职；三、西北边防总司令一缺着即裁撤，其所部由陆军部接收。
安福系对徐世昌的三条命令表示愤愤不平，既免去徐树铮职务，又要求惩办吴佩孚。徐树铮认为：徐世昌此举，并非针对他个人，而是助直排皖，削夺段祺瑞兵权。徐树铮向段诉说：“树铮之滥借巨款，编练重兵，甘冒天下之不韪，无非为督办计耳，今总统惑于佥壬，免去树铮之职，是欲排去皖系也，排皖系即是排督办，树铮一身不足惜，岂吾督办一生之威名扫地耶？”说罢痛哭不已。经徐树铮这一激，段祺瑞压不住心中怒火，气冲冲地说：“吾与东海有数十年之交往，故于改选时，愿与河间(即冯国璋)同时下野，而以元老之位让之，何意彼年老昏聩，竟出此非法之举动，彼既不念前情，老夫亦顾不得面子，今日誓不与之甘休。”
段脑子发热，忘乎所以，不顾皖系在政治上和军事上所处的不利地位，于7月5日以边防督办名义对边防军做紧急动员，鼓动边防军官兵奋勇作战，说：“如果这一仗不能打胜，不但我个人失败，边防军也不能存在，全体官兵的命运将不堪设想。”段对边防军的紧急动员，引得京城人心惶惶。直、皖两系要在京城打仗，达官贵人纷纷出京避难，使馆区内外国饭店又告客满。
7月6日，徐世昌又请张作霖到团河再做最后一次努力。当天张作霖到团河去见段，这天段的火气很大，咆哮着说：“罢免吴佩孚，万事皆休。”张说：“这怕办不到吧。”段咬牙切齿地说：“办不到也得办，你办不到，我一定要办到！”徐树铮对张作霖伙同徐世昌免去他的职务非常愤怒，把仇恨集中在张作霖身上，徐以假接电话为名，将段叫出，说要杀掉张作霖，段虽刚愎自用，但不是不计后果的人，不赞成徐的干法。段返回座席，机警的张作霖，一眼看出段的神色异常，知事不好，借口溜出团河，8日午夜1时，未与任何人作别，悄悄离开北京，在军粮城宣布“局外中立”。
围绕徐树铮和曹、吴免职问题的激烈斗争，直皖战争已不可避免，双方都在积极备战。段决定派5个师，划分3个战区，以京奉路一带为东路，以固安一带为中路，以琉璃河至高碑店一带为西路。