张居正开始掌权，正是隆庆初年，此时他的主要精力，是放在北方边境线上，对付那不时入侵袭扰的蒙古鞑靼骑兵。
当年明成祖朱棣受封燕王，本来就是为了帮老爹朱元璋挡住时不时南下骚扰的蒙古鞑靼兵。后来夺取了江山，朱棣就定都北京，通过定都北方，确保战略重心，以震慑蒙古鞑靼人。
朱棣本人是一个勇猛的将领，这么整一点问题没有。对于他后面的那些儿孙皇帝来说，边境线后面不远的北京城，却实在让人住不踏实。
在大明军队的野战能力渐渐衰退后，为了应付蒙古鞑靼人的屡次袭击，主要的战略便是防守万里长城。沿着长城一线，从东到西设了九个重镇，分别是辽东、蓟州、宣府、大同、榆林、宁夏、甘肃、太原、固原。
其中西边五镇，距离中心区较远，并不十分吃紧。真正重要的，是东边辽东、蓟州、宣府、大同四镇。这四镇恰好形成弧形，拱卫着明朝首都北京。若是四镇固若金汤，则北京位于我军重兵怀抱之中，安如泰山；而一旦四镇中有一处被突破，蒙古铁骑很快便能杀奔京城之下。
所以，当年大明朝的心学大师、政治家、军事家和哲学家王守仁（王阳明）曾经说过：大明虽大，但要害之地却只有四处。“这四处若失，则大明必亡。”
所谓的四处，就是指宣府、大同、蓟州、辽东四镇。明朝将这四镇及其邻近区域，又划分成宣大和蓟辽两个大镇。由朝廷直接任命两位总督来管理。这两位总督，一般就是兵部左右侍郎，可见朝廷对四镇的重视。
四镇之中，最紧要的还是蓟州。毕竟紧靠着北京，又没有过于险要的地形。当时长城以北，都是蒙古鞑靼人的势力范围，这样在蓟州方向上，北京城与蒙古鞑靼人也就只隔一道长城了。彪悍的游牧民族，可以随时从喜峰口、黄崖口、古北口等地冲进来，包围北京。
面对这种局势，积极一点的上策，当然是编练十多万乃至数十万精兵，越过长城去，在蓟州以北夺回一片缓冲区，驻扎兵马，修筑堡垒，作为防御蒙古军的前哨。但在当时的明朝，要实现这样的计划很不现实。
于是退而求其次，便是确保蓟州军分区的稳定。在嘉靖三十八年，天下奇才杨博就曾上疏，指出九边重镇，最重要的是蓟州，应该加派兵马，多安排哨兵，严守古北口等要害，使得蒙古鞑靼人不能入关。靠了杨博这个计策，若干年中，北京没有再遭遇嘉靖三十年那种严重的威胁。
但是蒙古鞑靼人的猖獗，总归是给北京城内的君臣造成很大的压力。在隆庆元年九月，俺答率军入侵大同，攻陷石州，侵略交城、文水，蒙古的铁蹄和战火席卷整个山西中部地区。蒙古东部的领袖图门汗（又称土蛮），也带兵进犯蓟州，一路逼近到了滦河。两面的烽火，使得北京在整整一个月里面风声鹤唳，草木皆兵。
这种情况下，徐阶的学生吴时来，就是在嘉靖三十七年带头弹劾严嵩的那位，这会儿已经被徐阶调回朝中担任工科给事中。他推荐了三位将领镇守北方。这三位，便是赫赫有名的谭纶、俞大猷和戚继光。在之前的倭寇之乱中，他们都立下了显赫的战功。
那会儿朝廷里面，还是徐阶为首辅，张居正是徐阶最得力的助手。吴时来的建议得到采纳，三位抗倭英雄中，除俞大猷因为年纪老了，不再调动，谭纶被召回朝廷，升职为兵部左侍郎兼右佥都御史，总督蓟辽、保定军务，戚继光则被召为神机营副将。
从这一刻开始，曾在东南沿海为保家卫国，与倭寇浴血厮杀的民族英雄谭纶、戚继光，又往北方边境线上修筑钢铁长城，前后十余年。而已经萌生退意的徐阶，在完成这一人事调度后，把和这两位名将沟通的重任，交给了自己的得力学生张居正。张居正原本便对北方边防极为看重，他与两位名将建立了很深厚的关系。面对抵抗蒙古鞑靼的军事要求，他尽其所能，作为谭纶、戚继光在朝中的后盾，帮助他们建立自己的防御系统。
在抗倭战场上摸爬滚打出来的谭纶是一位实干家。他就任蓟辽总督以后，很快发现了蓟辽防线的最大问题：兵力不足。
他说，现在蓟州昌平一代的兵力不到十万，而且半数是老弱病残，又分散在2000里的长城上，一旦敌人集中攻击，我军就会被各个击破，所以必须要训练新兵。但是训练新兵存在以下四个方面的难题：第一是缺钱，要训练3万勤于车战的精兵，每个月要花五十四万两银子。第二，现在河北一带战争频繁，本地军人都已经懒了，必须从江浙一带招募一万二千亡命徒，以补充军队。我和戚继光完全可以办这事，但怕朝廷上的言论阻挠。第三，北方的兵油子多，不服从军纪，如果我们严明军法，他们一时不适应，多半会背后造谣；而蓟州又靠近北京城，一旦流言传到中央，只怕会酿成其他祸端。第四，要想完全平定边境，不是一次两次胜仗可以解决问题，问题在于，一旦打了一两次胜仗，恐怕就会遭到朝中的嫉恨，引发大祸。
归根结底，谭纶提出的这四点，除了第一点，其他的都是在发问：我要到前线打敌人了，后方会不会有人拆我的台呀？
对谭纶这种担心，张居正以他的行动作出了最好的保证。他不仅安慰谭纶，鼓励他努力按照自己认为好的方略去准备，而且实实在在给予了支持。谭纶建议，授予戚继光“总理蓟州、昌平、保定三镇练兵事”的职权。各镇总兵官以下，都受他节制，同时调集各处精兵3万人，由戚继光直接率领，作为长城防线的战略机动力量，迎击并歼灭侵入长城内的蒙古鞑靼军。另一方面，又请求速调3000浙江兵来蓟辽救火，等他自己的3万军队练成之后，再把他们调回去。这些要求，张居正都一一满足，对于谭纶的各种计划，也纷纷照准。
谭纶的要求得到了批准，戚继光却面临着麻烦。因为原本蓟辽总督下属便是若干位总兵，如今根据谭纶的意思，又任命戚继光为“总理练兵”的指挥，制约蓟州、昌平和保定三位总兵。在谭纶来说，是为了给自己增加得力的军事助手和地方指挥官，但在三位总兵来说，莫名其妙在总督之下、自己之上又跳出这么一位“总理”来，心头多半有些别扭。三镇总兵手下的兵力足有十多万，名义上都归戚继光“节制”，实际上根本节制不动。他能动用的，也就自己手下的3万兵力。这样，地位级别介于总督和总兵之间的戚继光，就面临着一个很尴尬的高不成低不就局面。
戚继光这种尴尬，朝中很多人都看到了，也有人在想办法解决这个矛盾。就在戚继光到蓟州后不久，从边境传来流言，说是总督谭纶对于蓟州镇总兵郭琥有不满意的地方。于是，兵部尚书霍冀，就拿出了一个主意来：他把郭琥撤职，然后调戚继光为蓟州镇总兵。心想这样一来，谭纶和郭琥的矛盾解决了，戚继光也得到了实权，真是两全其美。
然而霍冀的点子只能说自以为是，其实却几头都不讨好。郭琥是一员能征善战的猛将，谭纶对他并没有太多不满。被霍冀这么一插手，郭琥固然莫名其妙丢了官职，谭纶也损失了一员大将。而在戚继光呢，由总理三镇练兵变成一镇的总兵，虽然实权增加了，但名义上的地位却降低了，这让好面子的戚继光也很郁闷。
霍冀一番好心，却让三个名将都受委屈，他自己闹出来的事情，自己已经没法收场了。而在明朝时期，内阁和六部之间权力始终处于相互制衡的状态，所以对兵部尚书的主张，内阁首辅李春芳和次辅陈以勤，也没有太多的积极性去纠正。这时候就只有张居正挺身而出。他不辞辛苦，写信给谭纶、戚继光，了解他们的想法，彼此沟通，终于弄清楚了谭纶对郭琥的看法，也摸透了戚继光不高兴的原因。
于是张居正本着国家大局，对三人苦心调处，拿出了相对合理的解决方案：戚继光这一方面，依然总理三镇练兵，再兼任蓟州镇总兵，这样实权加强，虚名未降；郭琥一方面，暗中安抚，调任他处。这么一来，勉强算是把损失减低到最小了。
张居正的高明之处还在于，他把这个解决方案拿出来后，让谭纶以总督的名义，写信给内阁李春芳、陈以勤，以及始作俑者兵部尚书霍冀，还有老一代著名军事家、时任礼部尚书的杨博。而张居正自己，则是在朝廷里暗中运作此事。最终按照这个方案善后，谭纶和戚继光也终于可以把主要精力放到边防建设上来了。
谭纶和戚继光在蓟辽一带，进行了大量的兵工建设。其中规模最大的，是在长城上加修上千座“敌台”，就是小型堡垒，每一个堡垒驻扎50名士兵，作为防线的关节点。张居正对此是赞同的，不仅如此，他还专门写信，和谭纶讨论关于这个工程的细节。
当时在朝廷上，尽管加强北方边防是大家共识，但当提到修筑敌台时，有很多官员认为这样的工程过于浩大，劳民伤财，而在蒙古鞑靼人入侵时中看不中用。李春芳、陈以勤对此全无主张，又是张居正站出来，舌战群儒，把修筑敌台的意义和代价细细剖析，终于说服了大多数臣僚，使谭纶得到充足的人力物力，完成他的边防建设。
除此之外，张居正留下的大量书信，还记载了很多其他的军务讨论。比如，他关心边防军粮供应和征集、运输消耗，建议各部队分区就近征粮，减少损耗；再比如，他曾多次评价边境将帅的才略，并为他们请功。也是在张居正的坚持下，于隆庆三年，举行了由皇帝亲自主持的“大阅”，在振兴军威这一方面，起到了不小的作用。
总之，在隆庆初年，尤其是徐阶致仕前后的日子里，正是这位内阁中最年轻的张居正，不顾所谓的分内分外，挑起了支持边防的重任。也正是在他的支持下，谭纶、戚继光等名将，才能逐渐在北方边境构筑起阻拦入侵的钢铁防线，并为日后若干年的和平打下基础。