段祺瑞“再造共和”以来，耿耿于怀的两件大事――另立国会和选总统总算完成了。这样，打击了护法运动，排挤了冯国璋，还踢了研究系一脚，取得了专制统治的“合法”地位。从表面上看，他是如愿以偿了，其实并不然，从此，直皖矛盾更加尖锐，研究系对他的怨恨加深了，他树敌越来越多，使他坐到了火山上，危机四伏。对此，他似乎有那么一种觉察，并产生了一些顾忌。他尤为担心的是，如果让冯国璋灰溜溜地下台，自己继续当国务总理，冯国璋岂能善罢甘休？倘若冯国璋采取报复行动，必然引起北洋派的更大分裂，自己的日子也不会好过。于是，他在8月31日发出通电，表示自己在政府改组后引退，就是说要和冯国璋一起下台。实际上，这是他的隐身法。是为了同冯国璋斗法而制造的一个骗局。10月10日，他下台后，仍掌管将军府，督办参战事务，指挥参战军，操纵安福系，可以说，既拥有权力和实力，又占据呼风唤雨之地。在内阁中，他的原班人马未动，号称徐世昌左右手的钱能训虽为国务总理，他仅是有其名而无其实。所以，他是身居幕后，仍左右着政局，控制着北京政府，军国大事由他一意孤行。靳云鹏任国务总理时，他更不放在眼里，“招之便来，挥之便去”，视同下属。不仅如此，就是在文件上也经常批示：“交靳核办”，完全是太上皇的架式和口吻！他只是对城府很深、搞政治阴谋有术的总统徐世昌还留一点面子。由此可见，他的“下野”是为了骗人，隐身是为了同冯国璋斗法。这样，也确实把冯国璋斗败了。
1919年5月4日，在北京爆发了声势浩大的反帝爱国运动，这次爱国运动的斗争矛头一开始就指向了段祺瑞控制下的卖国政府及其爪牙曹汝霖、章宗祥和陆宗舆，段祺瑞身居幕后，极力阻挠、破坏和镇压“五四”运动，他对走在运动前列的爱国学生，主张血腥的镇压。5月7日，全国各地强烈要求释放被捕的爱国学生，在巨大的压力下，当北京政府被迫释放了爱国学生之后，他竟然指使安福系分子、大理院院长姚震提出，要查明学生运动的领导者，还要依法制裁。同时，他又授意安福系的内阁成员提出，撤换这次学生运动策源地北京大学的校长蔡元培。安福系甚至扬言，要暗杀蔡元培。尤为卑劣的是，他还借学潮来鼓动政潮，进行倒阁活动。为此，他指责钱能训内阁对爱国学生运动镇压不力，表现软弱无能，授意安福国会推翻钱能训内阁。5月9日，钱能训不得不亲自去拜访他，表示愿意下台，请他推荐新的人选。这时，他感到自己不便于上台，就想派安福系头子王揖唐出来组阁。
5月底，“五四”运动席卷了全国，特别是广大工人、市民、商人以及爱国华侨的热烈响应，使这一运动出现了新高潮。这样，广大人民群众同卖国政府的矛盾更加尖锐，对段祺瑞更加口诛笔伐，切齿痛骂。段祺瑞像一个被刺痛了的野兽，狂怒不已。他向北京政府施加压力，撤换了他认为镇压学生运动不力的李长泰，换上了一个有“屠夫”恶名的王怀庆为步军统领。当全国人民把斗争目标集中在卖国贼问题上的时候，正是打在卖国贼身上，痛在段祺瑞的心上。因为这些卖国贼无一不是他的心腹，而他是罪魁祸首。他怕惩罚这些卖国贼后，人民群众的斗志越来越高昂，穷追不舍，再把火烧到他的身上，找他算总账。因此，他就公然与人民为敌，千方百计地阻挠北京政府对卖国贼采取惩治措施，甚至公开袒护卖国贼，说他们是“体国公忠，有裨大局”，并去慰问了这三个卖国贼！当“五四”运动的斗争目标发展到拒绝在“巴黎和约”上签字的时候，他卖国至极，竟冒天下之大不韪，丧心病狂地发出通电，主张在“巴黎和约”上签字。这一切，把这个北洋军阀对外卖国，对内专制的反动本质暴露无遗了。
第一次世界大战结束后，段祺瑞不顾全国人民要求国内和平的强烈呼声，反对和破坏南北和谈，他把安福系分子安插在参加和谈的北方代表中，并授意他们说：“和谈只许失败，不许成功。”他还直接对徐世昌说：过去冯国璋中过南方的缓兵之计，我们不能再上当，应当布置作战，以免处于被动，措手不及。为此，他曾召集北洋将领举行马厂会议，讨论继续作战问题，因无人响应而作罢。
然而，他仍逆潮流而动，迷信武力。他把“参战军”视为私有，拒绝交出。当因世界大战已经结束，还保留参战机构和参战军遭到国内外非议的时候，他变了个换汤不换药的戏法，于1919年7月20日将“参战督办处”改为“边防督办处”，“参战军”改为“边防军”，他也由参战督办摇身变成了边防督办。蒙混过来之后，他还不满足，厚着脸皮要求北京政府对他主持参战的“赫赫战功”予以奖勉。本来，参战给中国带来的是极大的耻辱，可是，北京政府还把他的“战功”说得天花乱坠，并授一等勋位，参战处其他各员也都捞到了五花八门的勋章。借此机会，徐树铮也步步高升，接二连三地攫得了西北筹边使、边防军总司令、督办外蒙善后事宜等要职，把皖系势力迅速扩展到西北地区和外蒙古。对此，段祺瑞洋洋得意，双十节时，他命令边防军第一师师长曲同丰举行了大规模的国庆阅兵典礼，炫耀武力。这个师的第二旅旅长程长发，在一次全旅军官会议上直截了当地说：“仗是一定要打的！练军队就是为了打仗，现在就要准备好。军队好比狗，主人让我们咬谁我们就咬谁！”
皖系势力的恶性膨胀和战争喧嚣，引起了国内外各方面的嫉视和不满。特别是那个野心大、阴谋多、兵力雄厚的徐树铮一跃而为“西北王”之后，曹锟、吴佩孚觉得受到了直接的威胁；张作霖也因其与自己的“东北王”齐名天下而闷闷不乐，这样，就形成了反皖的七省联盟。七省联盟首先提出了“清君侧”的口号，把矛头指向徐树铮，但段祺瑞把徐树铮的去留当作自己的生死荣辱，根本不听七省联盟的“忠告”。接着，七省联盟就按预定计划举行“兵谏”，即吴佩孚率部从湖南撤防北归，对段祺瑞进行威胁。对此，段祺瑞一面授意北京政府对吴佩孚北归的电请迟迟不作答复，一面筹划将段芝贵调任安徽督军、吴光新调任江西省长，对直系的长江三督发动攻势。当吴佩孚要采取自由行动时，段为了在河南阻截直系军队北归，于1920年2月，策动河南的部分军人反对河南督军赵倜，并以此为借口而改派吴光新为河南督军。2月26日，国务会议通过了这个任命的议案，但大总统又不同意这个变动。国务总理靳云鹏向他报告时，他当面骂道：“没有用的东西，如何配作总理！”堂堂的国务总理被骂了个狗血喷头，一气之下，递了辞呈。安福系乘隙发动倒阁，但直系势力和徐世昌对其却表示挽留。在这种压力面前，段祺瑞也不得不表示挽留靳云鹏和推迟河南易督了。尽管如此，矛盾并没有缓和，吴佩孚的军队北归行动继续进行。3月18日，段祺瑞秘密去保定，要求曹锟制止吴佩孚自动撤防，结果，白跑了一趟。3月末和4月初，张作霖在沈阳以作寿为名，曹锟在保定以追悼直军阵亡将士名义，分别邀集一些省军阀召开秘密会议，策划对付皖系，从而使直皖矛盾更加恶化了。
正在双方即将最后诉诸武力的时候，段祺瑞为了掩人耳目，向徐世昌做了从此不管一切闲事的表示之后，就到团河“避居”去了。徐世昌、靳云鹏再三请他回京，他都拒绝了。实际上，他是躺在阴暗的角落里，为一场你死我活的大厮杀紧张地做着准备。在他的授意下，驻北京的皖系将领以营房不足为借口，发出了拒绝直军移驻北京的通电。5月17日，他在这里召开了秘密会议，作出了一系列军事部署，召回了徐树铮，将西北边防军全部调回了北京附近。他要先发制人，亲自出马担任川陕剿匪总司令，准备用声东击西的办法，即率领边防军两个师以向陕西进军为名，夺取河南，驱逐赵倜，在郑州安营扎寨，并在这里与安徽、山东的皖系军队共同夹击吴佩孚的军队。岂不知螳螂捕蝉，还有黄雀在后。正当他要主动出击之时，张作霖以边防军出动，北京防务空虚为名要把奉军开进关来“拱卫京师”。这个后顾之忧，迫使他不得不放弃了原来的部署。
5月20日，吴佩孚从湖南衡阳向北撤兵，并按照秘密约定，直军后撤，湘军跟进。接着，湘军与皖系军队开战，段祺瑞手下的战将张敬尧被赶出了湖南。段祺瑞马上振振有辞地谴责南方破坏了和平，要求北京政府明令讨伐。他还指使陕西、甘肃、安徽、山东、浙江五省督军联名发出要求北京政府查办吴佩孚“勾敌”的通电。6月初，吴佩孚抵郑州，军队分驻河南、河北，摆开了同皖军拼命的架式，战云密布中原大地。这时，自称是“第三者”又说公道话的张作霖满面笑容地来到了北京。谁都知道，张作霖自居于调人，但不是调人，而是配合直系倒皖的。目空一切、态度傲慢的段祺瑞一反常态，彬彬有礼地接待了几天前还被他破口大骂为“马贼出身，不配算北洋派，居然敢来干涉北洋派事情”的这位“调人”。调停开始时，他固执己见，不肯让步。后来，张作霖以离开北京、不管闲事相威胁时，他又心慌意乱，主动去讨价还价。当僵局似乎有点松动和转动的时候，徐树铮等人又给他烧了一把火，说解散安福系、撤销边防军等条件超过了限度，不为督办留有余地，我辈今后也抬不起头来了。一番鼓噪，他的“虎”气又上来了，气鼓鼓地说：“我们不能再让一步！”
定国军丢城失地，段递辞呈于徐大总统
在曹锟、张作霖里应外合的鼓动下，徐世昌于7月4日下令免去了徐树铮西北筹边使、边防军总司令等职，并将边防军改归陆军部。这一刀如同挖了段祺瑞的心肝，他大发雷霆，大骂不已。第二天，他就以边防督办的名义命令边防军紧急动员、徐树铮“照常办公”。接着，他在将军府召集全体阁员及军政人员举行联席会议，决定讨伐曹锟、吴佩孚，并宣布边防军改为“定国军”，自任总司令，徐树铮任参谋长，段芝贵为第一路军司令兼京师戒严总司令，曲同丰为第二路军司令兼前敌司令，魏忠瀚为第三路军司令，同时，向徐世昌递交了一份满篇是叫骂杀伐的呈文。会后，还派兵包围了总统府，逼迫徐世昌下令罢免曹锟、吴佩孚等人的官，还要将吴佩孚交陆军部“依法严惩”。他声称：“大总统任免黜陟，不能为一党一派所挟制；关于徐树铮、张敬尧免职，余不过问，惟湖南问题，四省经略使曹锟任吴佩孚自由撤防之罪，不可不问；余为维持国家纲纪计，必兴问罪之师。”其实，兵困总统府本身是一党一派的挟制行动，至于他口口声声说“维持国家纲纪”，也是挂羊头卖狗肉，是军阀们争权夺势、互相厮杀时的一块招牌和惯用的手法而已，可见军阀们随心所欲地对待事物，是从来不讲真正的道理的。将军府会议之后，段祺瑞又回到了团河。这时，可能因忙于战争的缘故，他“两颧发红，精神颇有错乱之象”了。
段祺瑞剑拔弩张之时，直系军阀也不示弱，组织了“讨逆军”，吴佩孚为前敌总司令兼西路总指挥。7月10日，“定国军”向“讨逆军”发动了进攻，直皖军阀之间的厮杀开始了。
在口诛笔伐中，7月13日，吴佩孚发出的出师讨贼电文，矛头直指所谓“创建民国至再至三”的上将军段祺瑞，打破了北洋派的传统，撕掉了用“清君侧”作为自己用兵的遮羞布，一改那种为“尊者讳”而不直接攻击段祺瑞的虚伪面孔。这反映了北洋军阀集团内部矛盾之深化，也是它分崩离析、日益衰败的表现。正因为如此，这个电文虽是一派之见，也有助于人们认识段祺瑞的庐山真面目。电文中说：“自古中国，严中外之防。罪莫大于卖国，丑莫重于媚外。穷凶极恶，汉奸为极，段祺瑞再秉国政，认仇做父，始则盗卖国权，大借日款以残同胞；终则导异国之人，用异国之钱，膏吾民之血，绝神黄之裔。实敌国之忠臣，民国之汉奸也……”可以看出，这个电文言辞之尖锐，情绪之愤怒，是击要害而又毫不留情的。另外，还有顺直省议会、天津总商会、直隶全省商会联合会宣布段祺瑞罪状的电报，以披露鲜为人知的内幕，剥去段祺瑞种种画皮而见丑。电文中指名道姓地列数了他的八大罪状，除了“目无总统，任意横行”；“信任曹陆，借用日款”；“任用权术，利用金钱收买下级军官”；“组织安福俱乐部”；“任用爪牙徐树铮，种种作恶”；“吸食鸦片，行贿赂”；“自谓淡泊无欲，维持国家纪纲，以欺天下”外，又用大量的事实戳穿了他“向以清廉自命”的伪善面目和“生平廉洁自持”的传说。电文写道：“海内不知其底蕴者，不免为其所愚。今试查天津意租界段氏之宅，为谁所贿送乎？则徐树铮于民国元年所得汉阳之款，以十三万元分润于段氏也。又试查北京新造段氏之宅第，为谁所贿送乎？则曾云霈以安福系之党费，为之兴造春夏秋冬四季式房屋，以贡献于段氏也。复辟讨逆所余之款二百万元，尽入囊中。中日汇业银行一百万元之股份，众所共闻。其他各银行、各公司之股，莫不有段氏之堂名。清廉者固若是乎。阳饰清廉，阴实贪渎。以致为徐曹等佥壬所牵制，为所欲为，贻害国家。”常言道，观人必于其微，由小可以看大，中国近代军阀并不只有一副满脸横肉、赳赳武夫的面孔，他们也善于伪装和经常改换脸谱。不是么，段祺瑞如此“贪渎”，可平时却极力向人们灌输儒佛道德观念，天天诵经念佛，满口“仁义礼智信”，其目的无非是愚弄百姓，掩盖自己的丑行。可以说，这也是军阀们的一个共同的特点。
唇枪舌剑并不能决出他们的雌雄，真枪真炮才判定了他们的胜负，7月14日，两军在涿州、高碑店、琉璃河一带交战，战斗比较激烈。此时，奉军大批入关，“定国军”在直、奉军队的夹击下，溃不成军（此役详情在曹锟一节有载）。战报传来，段祺瑞气得三尸暴跳，七窍生烟，吐血的旧病也复发了。他眼巴巴地看着自己用几年的时间和巨大的代价经营起来的军队几天功夫就覆没了。他又想到，没有军哪有权？哪还有自己的立足之地？还凭什么去逞“虎”威？于是，他伤心了，绝望了，拿着手枪对着自己的脑袋就开了一枪，子弹擦耳飞过，身后的卫士应声倒地，他却没有死。他本打算遁入外国使馆，隐退息肩，但又一转念，还要留下后路，以便东山再起。于是，7月20日，他自请免去身兼各职，“以谢国人”。徐世昌看了辞呈，笑着说：“早知今日，悔不当初。”
段祺瑞虽退居天津，但并不甘心于从此息影政坛。他仍积极活动，多方拉拢，纠结反直势力，积蓄力量，等待时机以求东山再起。他看到直、奉矛盾逐渐恶化，便暗中勾结张作霖，如1922年初，段祺瑞曾派段芝贵赴奉联络；同时他也慑于南方革命势力的增长而曾联络一贯反对军阀统治的孙中山，其间信使往返频繁，如1921年12月22日，段祺瑞派最亲信的爱将徐树铮到粤商谈联合讨直问题，孙中山则指派要员廖仲恺、蒋介石与徐会商。1922年2月间，张作霖、段祺瑞又先后派人到粤见孙商谈，反直联盟基本组成。
直奉军阀自直皖战后由于权力分配不均，加之吴佩孚志得意满，咄咄逼人，大有驱奉独霸之势。他以反对为张作霖支持的梁士诒内阁为发轫攻讦奉张，终由电报战而发展到兵戎相见。1922年4月29日至5月5日，第一次直奉战争在津浦、京汉线北段地区展开。这次战争以奉系的失败宣告结束，而直系军阀取得独占北京政府的优势。吴佩孚也更加专横独断，使总统形同虚设，内阁惟命是听。但直系内部却因权力再分配而萌生分裂，出现保、洛两派之分。奉系军阀张作霖蒙战败之辱，退回关外，自成局面，处心积虑，图谋复仇。他虽在直皖战争时与直系联合，参与过反皖倒段，但时过境迁，奉系又主动与皖系修好，互商反直对策。同时，南方的孙中山一直以反对北京政府的军阀统治为职志，也准备利用军阀内部矛盾，联合段张来反对实际执政的直吴。段祺瑞窥视已久，见有机可乘，大肆活动。1922年9、10月间，皖系军阀徐树铮即秉承段祺瑞的意旨主动联合孙中山部下许崇智及驻在福建延平的皖系军阀王永泉驱除叛段的闽督李厚基，建立“建国军政制置府”，奉孙中山与段祺瑞为首领。这次反直活动虽然很快被制服，使皖系势力受到打击，孙、张、段的反直联合并未屈服，继续策划会商。1923年是孙、张、段三方接触频繁的一年，往往在一个月中有多次密谋策划。2月，孙中山公开承认“三角同盟”进行顺利；6月间，粤、奉、皖三方代表集于广州，再次商讨反直事宜。这些活动加深了直、皖、奉三派系的矛盾。1924年8月，孙中山、段祺瑞和浙督卢永祥的代表汇集奉天，共同商定反直密约；9月初，作为第二次直奉战争前奏的江浙战争终于爆发。这是一次以属皖系军阀的浙督卢永祥与属直系军阀的苏督齐燮元之间进行的战争。9月30日江浙战争开始，次日，卢永祥正式请求孙中山出兵援助；得到同意；奉张也表示支持，并给以物质资助。17日，第二次直奉战争继之爆发，双方都投入大量兵力进行激战。10月23日，直系将领冯玉祥倒戈相向，制造北京政变，吴佩孚猝不及防，招致第二次直奉战争的失败，同时使直系操纵的北京政权随之倾覆。战后，冯玉祥曾主张请孙中山北上主持国事，但奉系则为扩张实力，急需另外物色政府人选来平衡各方关系以稳定局势。段祺瑞此时已失势，且资历较长，因而成为适当人选，所以由张作霖出面邀约冯玉祥于1924年11月10日在天津与段祺瑞会晤。
11月10日，在段的主持下，召开了解决时局的会议，划分了冯玉祥的国民军和奉系军阀的“势力范围”。在这次会议上，他根据困兽不可穷追的“理论”，对曹锟、吴佩孚在长江流域的势力不主张用兵，坚持用和平办法解决。在这种“和平办法”的背后，他的打算是，趁曹锟、吴佩孚倒台后，长江流域各省实力派急于另找靠山的机会，将其收归己有，成为自己在张作霖、冯玉祥之间搞平衡、玩权术的政治资本，进而当上凌驾二者的北洋派惟一领袖。张作霖、冯玉祥明明知道他葫芦里卖的什么药，但也无可奈何。果然，直系在各省的军阀见曹锟、吴佩孚无可指望，而就要上台的段祺瑞又有收容之意，便于11月上旬起，纷纷发出了拥护他出山收拾时局的通电。在这种众星捧月的形势下，1924年11月15日，由张作霖、卢永祥、胡景翼、孙岳五人联名推戴他为“中华民国临时执政”，执行政府职权。22日，他回到北京，24日，在陆军部宣誓就职；同时，公布了“中华民国临时政府制”，条文第一条规定：“临时执政总揽军民政务，统率海陆军。”