政令不度山海关
就在北京政府剥夺张作霖一切职务，张作霖悍然宣布独立自治前，在东北土地上，还上演了这么一幕小闹剧。
张作霖与他的奉系在关内一败涂地，吴佩孚开始不可一世起来。为了彻底消灭张作霖这个政敌，他一再催促北京政府严惩张作霖。不得已，徐世昌于5月10日下令裁撤东三省巡阅使，张作霖免去本兼各职，听候查办。11日，又下令裁撤蒙疆经略使，这就剥夺了张作霖的一切军政大权。
更绝的是，他还让徐世昌下令，任命黑龙江督军吴俊升为奉天督军、冯德麟为黑龙江督军、袁金铠为奉天省长、史纪常为黑龙江省长。这就将东北各地的主要权力全部分散，张作霖没有了任何地盘，而且还会导致东北大大小小的军阀们自相残杀，无法统一作战。
吴佩孚以为凭借这一手，张作霖就会失去权力的支持而成为光杆司令、孤家寡人，从此退出民国军阀行列。他哪里料得到，张作霖在东北经营日久，可谓是根深蒂固，哪是他一张白纸能撼动的。
这不，北京的政令传到了奉天，本来这么重大的任命，一定会一石激起千层浪，但让人目瞪口呆的是，居然没有任何想象中的效果!
冯德麟等人心知肚明，这是直系的离间计。于是他们在5月15日发出通电，声称张作霖有功于国，尤其是对东北秩序的维护更是立下了汗马功劳，中央不加体恤反而剥夺官职，现在又任命他们为各地督军，这简直就是乱点鸳鸯谱，他们拒不奉命。
不过，虽然冯德麟一帮人头脑清醒，但在利益面前，总会有糊涂虫冒出来的，这个人正是吴俊升。
听到徐世昌的任命，吴俊升和他的幕僚兴奋异常。吴俊升不是不明白自己的斤两，但自己辛苦多年，谁不想往高处爬，眼看奉天督军的职位近在咫尺，伸手就能够着，有几个人不动心呢?尤其是他身边的幕僚们，更是高兴得忘乎所以，弹冠相庆。消息传出，一时间吴俊升公馆车水马龙，人来人往，不是来祝贺的，就是想来分一杯羹的。
好在吴俊升并没有被这个喜讯冲昏头脑，他也知道在东北，张作霖可以一手遮天，没有他的首肯，别说是督军，就是一个小兵怕是都干不了。就算是张作霖点头让他干，他也不可能真正获得实权。于是他给北京回电，谨慎表达了自己的态度，不想就任!
这事按说到这里也就告一段落了，偏偏他身边有个秘书长，似乎想刻意卖弄一下文笔，于是找到参谋长应善一商量怎么改一下。这个应善一看了一眼，居然提起笔来在后面加了一句话，“唯政府之命是从”。
通电发表了，并且在《盛京时报》公开全文刊登。吴俊升看到报纸后，气得说不出话来，马上把秘书长叫来大骂，当时就把他赶了出去。
其实这个秘书长真有些冤枉，因为当时主张吴俊升接受奉天督军任命最积极的就是吴俊升的参谋长应善一。应善一有自己的算盘，如果吴俊升坐上奉天督军的宝座，水涨船高，他也会成为东三省一人之下万人之上的头面人物。没想到，自己有想法，却没有这个命!
张作霖早就在奉天巡阅使署、奉天督军王永江署和奉天省长公署里面安插了自己的心腹，这些人的一举一动他可是了如指掌。电报一出，他们就已经知道了原委。好啊，想动张大帅的位置，活得不耐烦了!第二天，应善一刚从吴公馆出来，就被人当街开枪射杀。
事发后，留守的奉天省长王永江担心事态闹大，不好收场，便故意给吴俊升挂电话问：“应参谋长是谁打死的?《盛京时报》上刊登的电报是怎么回事?我的职权让我必须缉拿凶手。”吴俊升当然知道怎么回事，但现在可不是《实话实说》节目现场，他也就装糊涂打太极： “电报后尾的那一句听说是应善一这个糊涂鬼给加上去的，我已经把秘书长打了一顿，又把他赶走了。至于应善一，这家伙在外面一直是胡作非为，不知道得罪了谁，叫人给打死了。这种事天天都有，谁管得了啊!”
应付过第一关，吴俊升左思右想，为了让张作霖对他不产生一点误会，还是应该亲自到山海关见张作霖。于是他只带了一名副官和两个卫士，匆匆赶到山海关。
张作霖见他来了，理都没理他，转身回屋，吴俊升亦步亦趋地跟了进来问安，张作霖这才板起面孔说： “你怎么这时才来，我正等你好办移交的事情。既然是国家的命令，你就赶快回奉天就职去吧，咱是老朋友，你干总比别人干强。”
吴俊升一听味不对，赶紧说：“大帅，我现在有不少自己的地产，光那点租子就够我过几辈子了，我还在日本银行和朝鲜银行存了很多钱，我的财产不比你少。对我个人来说早就满足了，我不想再出什么大乱子，再把我的家产搞没了，我不是白干了。他们北京政府尽出幺蛾子，今天一个主意，明天一个主意，咱们根本斗不过他们。让我当督军?外国交涉，各省代表，文的武的，我一样也应付不来。让我去剿匪、放马、垦荒种地，这个我倒在行。大帅您的肩膀可比我宽，什么都担得起，您不干谁干?”
张作霖听了这话，脸色这才好了一些，说：“那他们几个怎么不来?”张作霖说的他们几个，指的就是被北京政府任命的史纪常、袁金铠、冯德麟等人。吴俊升赶紧圆场： “大帅生着气呢，谁敢来!打个电报一叫，他们立马就会来了。”
张作霖听着高兴，前嫌尽释，笑容满面，亲切地问道： “大哥，你看下一步该怎么办呢?”吴俊升看到张作霖又叫他大哥了，知道误会解除了，就兴致勃勃地说道： “别听什么大总统、吴秀才的话。要叫我说，到了奉天再说。咱们东北人自己干自己的，比谁不强啊!什么北京政府，去他妈的!”
一席话，说得张作霖通体舒坦。吴俊升终于凭借自己的三寸不烂之舌，躲过了即将到来的厄运。而张作霖在东北的地位丝毫不减，还是他的东北王。北京政令，作为国家最高权力的体现，具有强大的威力，然而在山海关那铜墙铁壁的城墙面前，居然没有发生丝毫法律效力。
这正是：北京奉天两相望，政令不度山海关。
东北有了讲武堂
1922年7月16日，东三省保安司令部正式成立。这标志着东三省同中央完全脱离关系，正式独立。张作霖任总司令，孙烈臣、吴俊升任副总司令，杨宇霆任总参议。
这次直奉一战的失败，让张作霖刻骨铭心，但他也知道，生气是没有用的，关键是找出失败的原因。奉军兵力比直军多，而且装备上一点不比直军差，但战场较量结果证明，奉军的战斗素质太差。不管是单兵作战还是战术指挥，奉军明显都要弱于吴佩孚的军队，也难怪吴佩孚敢口出狂言，说两星期内解决战斗。看来老吴还是太保守了，战争只进行了一个星期就分出了胜负。
毛病在军队，核心在人员素质，这是张作霖苦思多日后得出的结论。为了尽雪前耻，总结经验教训，以图东LU再起，张作霖断然采取了一些针对奉军的重大改革举措。
第一，改组领导机构。张作霖设立了一个最高的整军经武的领导机构，名为东三省陆军整理处，后来东三省陆军整理处改为东三省陆军训练处，由张作霖任统监，姜登选、韩麟春、李景林、张学良为副监。这次改动直接针对最高指挥权，将奉军指挥权高度集中在了张作霖和张学良的手里。
第二，着力整顿旧式军队的训练思想。奉军内部一直以来都存在着两大派系，称为旧派和新派。
先说这个旧派，这一派的代表人物主要是当年跟随张作霖一起，从一文不名到东北王的过程中立下了汗马功劳的老将，主要有张景惠、吴俊升、孙烈臣、张作相、汤玉麟等人。他们的特点是资格老，在奉系军队中有威望，也深得张作霖的信任和倚重。
再说新派，这一派的代表人物是杨宇霆。杨宇霆也是土生土长的东北人，毕业于日本士官学校。他为人精明，做事干练，点子多，善于分析推理形势并作出最佳判断，所以从1918年起就一直担任总参议的职务，相当于奉军的总参谋，是张作霖最看重的主要智囊。新派在后期后来居上，韩麟春、姜登选、郭松龄、王树常、于珍、邢士廉，甚至张学良都加入了新派并逐渐成为首脑人物。这样，新派在总体实力上开始超过旧派，尤其是他们拥有张学良的三旅和郭松龄的八旅，这两支部队都是以善战见长的，所以新派逐渐成为东北军的主体。
张作霖最初打江山的时候，主要依靠的就是张景惠、吴俊升等老一辈的人，他对于所谓新派人物并不十分感兴趣，总觉得那是花拳绣腿，但新派在逐渐崛起的过程中展示出来的超强战斗力让张作霖刮目相看，这主要就是第一次直奉战争给张作霖的教训太深刻了。第一次直奉战争中，张作霖依靠的旧派军队在长辛店战斗中一败涂地，溃不成军，几万人的部队两天之内被收拾得干干净净，丧失了老大的家底让张作霖心疼不已，但属于新派的三、八旅虽然也失败了，不过只是小败，并没有溃散，建制并没有被打乱。
后来奉军总退却令下达后，直军乘胜追击，奉军不是投降就是溃散，能收拢回来的部队所剩无几。直军一直追到了山海关，满以为可以趁机进兵，直捣张作霖的老巢奉天，但就在这时，突然遇到三、八旅中王升文团的顽强阻击。在王升文的指挥下，直军居然苦战多日，仍然突破不了山海关，这才意识到遇到了劲敌。多次拉锯之后，直军不得不接受现实，与张作霖议和。而新派的郭松龄更是在败局面前不慌不乱，将整支部队完整地带了回来，为张作霖保留了重新崛起的本钱。
新派的实力让张作霖看到了自己练兵思想的不足，决定重用新派，同时新派的战绩也让旧派人物无话可说，他们也不得不让权。因此，以后的奉军整军经武，指挥权主要掌握在新派手中，
整顿陆军的指导思想是依靠新派力量，裁汰为非作歹的胡匪及行伍出身的官佐，已经成为了张作霖的整军指导方针。借着总结直奉战争各部的表现，严厉惩处了违反军纪的军官，并根据不同情况分别加以惩处，甚至对临阵退缩、贻误战机、焚劫掳掠的人实行了枪决，1个旅长和2个团长被执行枪决。这件事非同小可，奉军上下凡是有点小毛病的都是人人自危。
同时，对如冯德麟、张景惠、邹芬等重量级的旧派人物，张作霖既想削掉他们的兵权，又顾念旧情，不想做得太绝，于是调他们为保安司令部顾问，让他们生活依然优越，但有职无权。
新派的代表人物张学良和郭松龄认为，军队的战斗力并不是靠人海战术就能形成的，而是“贵精不贵多”。根据这一指导思想，他们将奉军兵员重新审核了一遍，凡是老、弱、病、残、劣的士兵通通支付一部分安家费后遣散回家。不过为了体现张作霖宽以待人的思想，对少数曾经立有战功的老弱士兵给予特殊照顾，让他们改当辎重兵或后勤兵，不用上前线拼命。
这次整顿力度很强，动作也很大。经过一番优胜劣汰，东三省的奉军一下子裁减掉了将近7万人，奉军的总数虽然大大减少了，但是战斗力却提高了一大截。看来直奉一战，对张作霖的震动实在太大，让他下了决心。
整顿兵员还在其次，在郭松龄等新派人物的强烈建议下，张作霖也开始认识到自己以前的一些做法确实过于落伍了，不重视人才是他们最大的弊端，于是奉军开始大量引进新式军事人才。凡是航空、航海、炮术、军需、军医、兵工等人才，他们都给予高待遇、高礼遇，来一个用一个，真是韩信点兵，多多益善。
当时北洋军阀一般都喜欢行伍出身的人带兵，学生出身的人只能用作参谋之类的幕僚，段祺瑞就曾经在军队里打杂多年。而现在的奉军大刀阔斧地进行改革，重用有文化的人，很多学生出身的人都直接带了兵。何柱国正是看到了这一点，才义无反顾地扭头投奔到奉军来。
经过统一整编的奉军，统称东三省陆军，共有3个师、27个混成旅和5个骑兵旅。每旅设三团，每团设三营，每营设三连，每连足额150人。整编后的奉军有17万人，比直奉一战前减少很多，但军队的素质有很大提高，士气也非常旺盛，朝气蓬勃，面貌一新。
第三，最大的重头戏，也是对东北军队影响最大的，就是建东北讲武堂。
张作霖认识到，军队战斗力的提高有赖于军事学校，有赖于军事教育。因此，他对独立开办军校极为重视。解放前，中国有四大军官学校，即保定陆军军官学校、东北讲武堂、黄埔军官学校和云南讲武堂。东北讲武堂是其中之一，至1931年“九·一八”事变，在13年中共训练了11期学员，学生8900余名。在东北军上至最高统帅张学良，下至连排长，绝大多数都是从东北讲武堂毕业的。
其实东北讲武堂并不是张作霖首创的，它最早创办于1906年，即光绪三十二年，那时是奉天将军赵尔巽为造就陆军初级军官而设立的。1910年革命军兴起，该堂即停办，后来又多次遭遇停办、复课、再停办的命运。
直奉一战后，张作霖狠抓讲武堂训练的情况。他听从有益的意见，对讲武堂加强了管理，进行了改革。在组织体制、主要领导和学员招生等方面，均作了较大改变。堂长由张作霖自兼，在堂长下增设一名监督，由张学良兼任，并由中、日两个陆军大学毕业的福建人萧其煊以教育长的名义代张学良负责。
张学良接受郭松龄的建议，在社会上招考了一部分中学生，同时，还从东三省陆军军士教导队第一期学员中，考选具有中学文化程度的学兵110余名，连同从部队调训的在职军官335名。这样，学员的素质有了较大提高。规定凡由社会上招收的中学生和由教导队考选的学生，毕业后须先到部队当三个月见习教官，然后才能任少尉军官。学兵们听到这个命令，真是从心眼里高兴。大家都说，讲武堂是培养陆军军官的学府，我们能考上，毕业后不就是陆军军官了吗!所以凡有点文化功底的人，当时对奉军改革是举双手欢迎的，这就极大地调动了士兵的积极性!
当然要说一句，第4期毕业生的质量也比前三期好。各中队长和部分教官是聘请在保定陆军学校任教多年的军官，如杨正治、戴联玺、何柱国、毛福成等，他们都是日本陆军士官学校毕业的，有丰富的教学经验。由于狠抓了军官的培养和训练，部队的军事素质有了较大提高。
第四，树立奉军典范。为了提高奉军整体素质，张作霖很重视在奉军中树立典范。这个典范，就是由张学良和郭松龄带领的部队。郭松龄曾任东北讲武堂教官，深受当时在讲武堂当学生的张学良的爱戴和尊重。1920年，张学良毕业后，即调郭松龄担任卫队旅参谋长兼团长。1921年奉军扩编，张学良任奉军第3旅旅长，郭松龄任第8旅旅长。三、八旅的日常管理和训练，张学良放手由郭松龄统一负责，实际上郭松龄就统辖了两个旅。三、八旅在郭松龄的苦心训练下，成了两支劲旅，而他们本身的榜样作用也是非常突出的。