对官佐的整顿如此，对士兵的整顿也如此。他们本着“兵在精而不在多”的精神，大量裁汰兵员。把老、弱、病、残、劣的士兵，都给资遣散还乡。立有战功的老弱士兵，照顾改充辎重兵或后勤兵。总计东三省的奉军共裁减69万人。奉军总数大大减少了，但战斗力却提高了。
从以上举措不难看出，此次整顿力度很强，动作很大。虽然个别人有怨言，但总体上，整顿还是通行无阻的。其根本原因是有老帅张作霖的坚定支持。这个强而有力的后盾，保证了陆军整顿的顺利进行。这也说明张作霖对于新的形势，还是能够主动适应的。
惩处裁汰的同时，奉军又大量引进新式军事人才。他们求贤若渴，广揽人才。不仅在东三省招揽各种新式军事人才，还派人到关内的重镇京、津、沪、宁、汉等地，去广招各类新式军事人才。举凡航空、航海、炮术、军需、军医、兵工等人才，他们都给予高待遇、高礼遇，悉数请来，为我所用。他们很重视文凭，对日本陆军士官学校、北洋武备学堂、保定军官学校、北京陆军大学以及各地军官学校的毕业生，都极力延揽。其中，日本陆军士官学校和北洋武备学堂的毕业生，更是受到特别的重用。
奉军还规定各部队采取考试的方法提拔军官，废除原来的推荐制。推荐制的人为因素很大，不利于军官素质的提高。同时，对军官的培养，也有一套科学的做法。“全军各师旅的参谋长和各团掌管教育的中校团附，全数由军校学生出身的人充任。其中保定军校各期毕业生为数最多，来自关内的各国陆军留学生和陆大出身的人次之；并且，以后遇有团营长出缺，一般皆由各部队的参谋长、团副以及讲武堂的教官和队长调充。”
军校毕业生认为到奉军来有前途。“当时北洋军阀一般都喜欢行伍出身的人带兵，学生出身的人只能用作参谋之类的幕僚，独有奉军与此不同，很多学生出身的人都直接带了兵。”何柱国正是看到了这一点，才投奔到奉军来的。
经过统一整编的奉军，统称东三省陆军。共有3个师，27个混成旅和5个骑兵旅。每旅设3团，每团设3营，每营设3连，每连足额150人。整编后的奉军有17万人，比直奉一战前减少很多。但军队的素质有很大提高，士气也非常旺盛。朝气蓬勃，面貌一新。
再次，建东北讲武堂。东北讲武堂最早创办于1906年，即光绪三十二年。那时是奉天将军赵尔巽为造就陆军初级军官而设立的，原名为奉天讲武堂，训练期为一年，只办一期。1907年徐世昌任东三省总督兼管三省将军事务时，将讲武堂扩大，改为东三省讲武堂，地点在小东边门外老龙口烧锅东侧。每期学期定为6个月。1910年革命军兴起，该堂即停办。1912年，巡防营改为陆军师，为整顿军队，又继续开办，办至第三期停办。曾在陆军第二十七师任旅长、团长的孙烈臣、汤玉麟、张作相等，都先后是该堂的毕业生。至1915年中日交涉起，复行停办。这是讲武堂的前身。但这两期讲武堂是短训班性质，而且都是采用旧式的军训方法。因此，影响不大。
真正有全国影响的东北讲武堂是指张作霖于1918年任东三省巡阅使后，为了整顿东北军队，在1919年3月，所成立的东三省陆军讲武堂。这个讲武堂是奉军自办的培养陆军军官的学校。张作霖认识到，军队战斗力的提高，有赖于军事学校，有赖于军事教育。因此，他对独立开办军校，极为重视。新中国成立前，中国有四大军官学校，即保定陆军军官学校，东北讲武堂，黄埔军官学校和云南讲武堂。东北讲武堂是其中之一。至1931年“九·一八”事变，在13年中共训练了11期学员，学生8900余名。在东北军上自最高统帅张学良，下至连排长，绝大多数都是从东北讲武堂毕业的。
现在着重说一说，直奉一战后，张作霖狠抓讲武堂训练的情况。这时适逢讲武堂的第四期。第四期是1922年10月召集的。因为直奉之战，奉军战败。为此，张作霖听从有益的意见，对讲武堂加强了管理，进行了改革。在组织体制、主要领导和学员招生等方面，均作了较大改变。堂长仍由张作霖自兼。在堂长下增设一名监督，由张学良兼任。并由中、日两个陆军大学毕业的福建人萧其煊以教育长的名义代张学良负责。将原来的9个区队改为3个中队，下辖10个分队。取消总队长一职，增设步、骑、炮、工、辎各科，由资深的中队长兼任术科教官。学习时间明确规定为一年。
鉴于前三期学员全部是从部队抽调的在职团以下行伍出身的军官，文化程度较低，学习困难。在第四期学员的招生上进行了较大的改革，张学良接受郭松龄的建议，在社会上招考了一部分中学生。同时，还从东三省陆军军士教导队第一期学员中，考选具有中学文化程度的学兵110余名，连同从部队调训的在职行伍出身的军官335名。这样，学员的素质有了较大提高。规定凡由社会上招收的中学生和由教导队考选的学生，毕业后须先到部队当3个月见习教官，然后才能任少尉军官。
关于在军士教导队招生的情况，当年亲自参加报考的教导队军士张国威有一段形象真实的回忆：“总值官杨焕彩宣布说，本队附魏益三命令，接旅部(指第二、六旅司令部)电话说郭旅长的指示，现在东三省陆军讲武堂第四期要开学了，由教导队学兵中有初中毕业或有同等学历者，可报名应考第四期讲武堂为学员。想考试的学兵，可即日在各连报名。学兵们听到这个命令，真是从心眼儿里高兴。大家都说，讲武堂是培养陆军军官的学府，我们能考上，毕业后不就是陆军军官了吗！当时各连报考的学兵计有数百人。经郭旅长自己出题，自己批阅试卷，录取者只有50多名。又经郭旅长亲自点名后，进入讲武堂第四期受训。”张国威就是经过这个考试而进入讲武堂的，毕业后当上了陆军军官。这个规定对军官军事素质的提高，起到了很大的作用。
第四期干部的质量也比前三期好。各中队长和部分教官是聘请在保定陆军学校任教多年的军官，如杨正治、戴联玺、何柱国、毛福成等，他们都是日本陆军士官学校毕业的，有丰富的教学经验。因此，第四期毕业生的质量要好于往届。由于狠抓了军官的培养和训练，部队的军事素质有了较大的提高。在第五期举办中间，爆发了第二次直奉战争。这一次战争，奉军官兵的战斗力大大增强，这就从一个重要方面印证了东北讲武堂的举办的是成功的。
最后，树立奉军典范。为了提高奉军整体素质，张作霖很重视在奉军中树立典范。这个典范，就是由张学良和郭松龄带领的部队。郭松龄曾任东北讲武堂教官，深受当时在讲武堂当学生的张学良的爱戴和尊重。1920年，张学良毕业后，即调郭松龄担任卫队旅参谋长兼团长。1921年奉军扩编，张学良任奉军第三旅旅长，郭松龄任第八旅旅长。第三、八旅的日常管理和训练，张学良放手由郭松龄统一负责，实际上郭松龄就统辖了两个旅。第三、八旅在郭松龄的苦心训练下，成了两支劲旅。在直奉第一次战争中，由于第三、八旅的顽强作战，阻止了直军的追击。他们的顽强作风和抗击能力，给全军树立了榜样。但在杨柳青和山海关两个战役中，第三、八旅损失很重。战后，东三省陆军统一军制，张作霖出于对长子张学良的信任和厚望，把第三、八旅整编为第二、六旅。仍由张学良和郭松龄分任旅长。挑选精兵强将，调配新式枪械，充实两旅，使这两个旅成为奉军的模范旅。两旅的训练和管理，张学良仍然完全交给郭松龄负责。张学良对郭松龄言听计从，尊崇备至。这两旅后来在直奉第二次战争中，确实表现突出，战功卓著。而他们本身的榜样作用也是非常突出的。
张作霖的整军经武除上面谈及的几点外，还有建立和扩大兵工厂，以及建立空军和海军等。
为了适应大规模战争的需要，张作霖处心积虑地扩建兵工厂。1919年春，张作霖偕参谋长乔焕章、实业厅长谈保隍亲自实地探勘。决定奉天东塔以东800余亩归航空处及飞机场占有；东塔以东约1800余亩为兵工厂基址。在该处建立了东三省兵工厂。
兵工厂的建设，大体分为两个时期：1919年8月至1924年，为初建期；1924年后为扩建期。1919年秋，派原奉天省军械厂厂长陶治平负责建厂筹备工作。陶治平于1921年首先建成了无烟药厂、枪弹厂和枪厂等3个工厂。因此，陶治平被委为兵工厂总办。1923年陶治平去职，由韩麟春继任。1924年韩麟春转任他职，遗缺由督军署总参议杨宇霆兼任，改称督办。从此，兵工厂进入了大规模发展时期。1929年杨宇霆被杀，由臧式毅接任。不久，臧式毅调任辽宁省主席。1931年“九·一八”事变，兵工厂被日军占领。
1923年增设了炮弹厂。1924年后，杨宇霆又大力扩建了炮厂、火具厂、铸造厂、制酸厂、木工所，达到了建厂的最高峰。计有8厂、4处，以及统计委员会、兵工学校、兵工医院等17个单位。到“九·一八”事变前，全厂职员由100余人增加到1000余人；工人由300人，增加到2万人，最多时达到25万人。
对兵工厂的扩建，张作霖给予了大力支持。杨宇霆由于兼任督军署总参议，有很大的决策权。兵工厂想怎么办，就怎么办。花钱多少，在所不计。
建厂初期，人才匮乏。张作霖命令大胆聘请外籍技术专家。聘请的外国专家有日本人、德国人、奥地利人、俄国人和瑞典人等，他们都得到了重用，担任顾问、技师或技士等职。他们主要负责安装各种机器、设计制造和装配工具模板，以及对技术人员的培训进行指导等，起了很大作用。
张作霖对所用的人十分信任。有一次，他直接约见药厂负责人叶禾及枪弹厂负责人吴伯琴。他们二人不知何事，结果是当面鼓励他们好好干，并当场开给他们二人各5万元的支票。张作霖用人就是这样，不惜花钱。
此外，为了培养自己的兵工人才，设立了兵工学校。学员分为初中、高中、专门3部，采用三三制。初中毕业后，派到厂里任三等技手，服务3年。高中毕业，派厂为练习生，可升一等技手。专门部毕业等于大学毕业，任一等技手或技士。这个制度，有利于调动学员的积极性。以后，虽然外籍专家有所减少，但由于中国技术人才的成长，兵工厂未受任何影响，反而有所进步。1931年“九·一八”事变前，兵工厂发展很快，全厂装备大小机器约在万台以上，可谓应有尽有，品种齐全。此时该厂已经成为全国规模最大的综合性的兵工厂之一。
由于投入巨大、经营得法，军工生产制造能力有了很大提高，枪弹厂的生产能力，大概分为3个时期：第一期1920年4月至1923年12月，六五、七九步枪弹由日产1万发，扩充到10万发；第二期1924年日产15万发；第三期1925年至1931年“九·一八”事变止，日产30万发。第二期比第一期年产多300万发，增长15倍。第三期年产9000万发，多时达到1亿粒，比第一期增长30倍。其他各厂也都有较大发展。每年生产的大炮150门，炮弹20余万发。步枪6万余枝，枪弹1亿粒，轻重机枪1000挺。
东三省兵工厂的扩建和发展，为张作霖进入关内、问鼎中原打下了军事物质基础。当然，这是大军阀不顾人民死活，采取穷兵黩武政策的体现。
为了提高奉军立体作战的能力，张作霖把目光投向了空军。他深知，在现代战争中，陆军没有空军的支持，很难取胜。尤其是在第一次世界大战中，空军在战斗中低空对地扫射和投弹轰炸，所起到的歼灭敌人和涣散军心的巨大作用，给张作霖留下了深刻印象。
中国开始建立空军是在1912年前后。北洋军阀段祺瑞和徐树铮，在留法回国的航空员姚锡九的建议下，从英国购买了一批飞机。1917年使用这批飞机，参加了讨伐张勋复辟军的战斗，空袭过复辟军占领的北京，轰炸过紫禁城。1920年，直皖战后，因为奉系派兵支持直系，张作霖分得战败了的皖系段祺瑞的一批飞机。这是张作霖梦寐以求的。这批飞机有旅客运输机四架，侦察教练机四架。同时，跟来航空人员姚锡九和王立序等专家。后来，张学良又从大沽造船厂等地调来技工赵鸿起等22人。有了这些，就为建立东北航空军提供了有利的前提。
1921年1月，张作霖下令设置东三省航空处，并派其参谋长乔赓云为处长，赵延绪、章斌为正副主任。此外，还委派了副官、军需官、军医官、书记官、工厂管理员、技工、班长等若干干部，分别掌握航空处各项事务。在沈阳东塔农业实验场旷地修建飞机场，又建厂房，盖仓库，造宿舍，筑办公室。以章斌、庄以临等为飞行骨干，以孔家桂、赵鸿起等为机械士，组建航空队。这样，就有了东北航空军的雏形。
1922年在第一次直奉战争中失利的奉军，认为“此次战败原因之一是直系的空军占了优势”。在西线，直军利用其航空优势，派飞机在长辛店投掷重磅炸弹，奉军招架不住。奉军前敌总指挥张景惠首先退却，引起奉军全线崩溃。这次惨败，张作霖刻骨铭心。张作霖更加深刻地认识到建立空军的必要性。
1923年9月，张作霖任命张学良为东三省航空处总办，以加快东北航空军的建设步伐。值得一提的是，张学良在1923年间学习了航空驾驶，很快就掌握了这项技术。他很喜爱飞行，航空员都很钦佩他。
在第二次直奉战争中，奉军取得了胜利，东北空军在战斗中发挥了作用。张作霖感到东北空军要加以整编，扩充实力。为此，张学良进行了机构改革。于1925年将东三省航空处改组为东北航空处，设立总务、机械两处，分掌事务和机务。以高纪毅为总务处长，周培炳为机械处长。同年3月，附设航空学校，由张学良兼任校长。教官有北京南苑航空学校毕业的赵延绪、王立序等，还有法国退役飞行员博赖等10余人。至此，东北的航空军包括多架飞机、正规机场、维修工厂、机械设备、航空人员、地勤人员、机械人员，以及训练机构等，初具规模。
对航空员的培养，张作霖煞费苦心。第一批自己培养的航空员，基本不合格。第二批从陆军中选送到法国留学的12名航空员，也不理想。总结这两次教训，对第三次选派留学的航空员就非常严格。1925年，张学良在东北军官训练班的1000余名学员中，亲自挑选了28名学员。他们的特点是，品德好，年龄小，体格壮。一般是20岁左右，最小的仅17岁。这次送往法国留学的共35名。除28名学飞行的航空员外，还有学习其他学科的。