嘉靖四十一年（1562）五月，严嵩在各种势力的攻击下终于倒台了，徐阶成为内阁首辅。此时的张居正倍感欣慰，因为他知道徐阶当政，就代表自己的出头之日就要来了。
徐阶是一个极善谋略的政治家，对张居正颇为赏识。当年张居正选为庶吉士在翰林院学习时，正巧徐阶是那一届的教习，师生相处没多久，便深相期许，引以为志同道合者。张居正给徐阶留下了深刻的印象，他当时评价张居正“勇敢任事，豪杰自许，然沉深有城府，莫能测也”。依徐阶的看法，张居正日后的发展不可限量，将会成为国家的栋梁之才。他看准了这是一个难得的济世之才，便用心良苦地尽力栽培。
除了培养像张居正这样的栋梁，徐阶在执政方面也有着过人的能力。在他当政以后，政局一步步地好转。他带头平反了一些冤假错案，使嘉靖一朝的戾气有所缓和，人们为了国事也敢于讲话了。
期间大名鼎鼎的海瑞，就站出来批评皇帝。海瑞是海南琼山人，为人刚正不阿，一身硬骨头，可谓是中国古代忠臣的代表人物。
嘉靖四十四年（1565），海瑞被调到北京任职，再次表现了直言的胆略。这就是震惊古今的“海瑞上疏”。
当时，海瑞已经升任户部主事，官阶为正六品，这是一个接近于中级官员的职位。
当时的北京并没有出现什么令人振奋的气象。相反的，南北两方都连连告警，急待增加收入以备军需。然而，政府别无新的途径筹款，可行的办法还是挪借和增加附加税。前者并不增加收入，也没有紧缩支出，而仅仅是此款彼用；后者则使税收制度更加复杂和实际执行更加困难。户部是国家的财政机关，但主事一类的官儿却无事可做。大政方针出自堂官尚书侍郎，技术上的细节则为吏员所操纵。像海瑞这样的主事，根本不必每日到部办公，不过是日渐一日积累做官的资历而已。当时的嘉靖皇帝还是一如既往地不理朝政，依旧喜欢求仙问道，且愈演愈烈，越来越离谱，整日研究什么“祥瑞”。这些都让海瑞难以接受。
嘉靖四十五年（1566），海瑞经过慎重的考虑，向嘉靖递上了一份著名的奏疏——《治安疏》。海瑞这篇古今奇文，写得实在是太振奋人心了。
奏疏中指出，嘉靖是一个虚荣、残忍、自私、多疑和愚蠢的君主，举凡官吏贪污、役重税多、宫廷的无限浪费和各地的盗匪滋炽，皇帝本人都应该直接负责。皇帝陛下天天和方士混在一起，但上天毕竟不会说话，长生也不可求致，这些迷信统统不过是“系风捕影”。然而，奏疏中最具有刺激性的一句话，还是“盖天下之人不直陛下久矣”，就是说普天下的官员百姓很久以来就认为皇上是不正确的了。
这一奏疏的措辞虽然极端尖辣，但又谨守着人臣的本分。海瑞所要求于皇帝的不过是改变自己的作为，只要嘉靖能够真正振作，选择合宜的道路，下定决心，他还是有机会成为尧舜之君的。
这样的奏疏确乎是史无前例的。往常臣下向皇帝作诤谏，只是批评一种或几种政策或措施，这种指斥皇帝的性格和否定他所做的一切，等于说他这几十年的天子生涯完全是尸位素餐，而且连为人夫及为人父的责任也没有尽到，其唐突之处真的是古今罕有。
所以，在嘉靖皇帝读罢这篇奏疏，其震怒的情状自然可想而知。据说，他当时把奏折往地上一摔，嘴里喊叫：“抓住这个人，不要让他跑了！”旁边一个宦官为了平息皇帝的怒气，就不慌不忙地跪奏：“万岁不必动怒。这个人向来就有痴名，听说他已自知必死无疑，所以他在递上奏本以前就买好一口棺材，召集家人诀别，仆从已经吓得统统逃散。这个人是不会逃跑的。”
皇帝听了默默无言，过了一会又读海瑞上疏，说道：“这个人可和比干相比，但朕不是商纣王！”
在逮捕海瑞关进诏狱后，嘉靖又下令追究主使的人。狱词送上后，嘉靖却留在宫中不发布，整日叹息，因为他不能忘记这一奏疏，其中有那么多的事实无可回避，可从来没有人敢在他面前哪怕是提到其中的一丁点！皇帝的情绪显得很矛盾。
正遇上皇帝的健康欠佳，心情郁闷，便召来阁臣徐阶议论禅让帝位给皇太子的事，他说：“海瑞所说的都对。朕现在病了很长时间，怎能临朝听政。”又说：“朕确实不自谨，导致现在身体多病。如果朕能够在偏殿议政，岂能遭受这个人的责备辱骂呢？”
徐阶连忙予以缓冲，说：“海瑞这个人，说话一贯愚憨，但其心还是可以原谅的，请陛下对他法外开恩。”
过了两个月，嘉靖皇帝死，明穆宗继位，海瑞被释放出狱。
终于摆平了海瑞的事情，徐阶又开始忙于内阁的人事调整，这可是关系到他将来能否顺利、体面地退休的大事，所以慎之又慎。这时候，张居正的机会也就来了。
徐阶对张居正的器重，是始终如一的。他有意保护张居正不卷入任何正面的政治斗争中，只留在幕后。张居正自然明白老师的苦心，也决心有朝一日大干一场。
他对张居正的栽培，处处都有心机。当年，他提拔张居正担任国子监司业，使张居正在众多监生中有了威望，这是在为张居正积蓄做大事的资本。明代由监生入仕而担任各级官员的，有一定的比例。在他们中间，酝酿出一种“谁人不识张江陵”的气氛来，对日后的发展必会有用。
嘉靖三十六年（1557），张居正仍回翰林院供职。这时的他在苦闷思索中渐已成熟，在政治的风浪中，他模仿老师徐阶“内抱不群，外欲浑迹”，相机而动。
嘉靖四十二年（1563），也就是严嵩罢相的第二年，徐阶又把张居正的位置挪了一挪，推荐他去参与重校《永乐大典》，又让他主持修撰《兴都志》的全盘工作。这是一次精心的安排，目的是为了能让张居正给嘉靖皇帝留下一个深刻的印象。《兴都志》不是一般的地方志，由于嘉靖是从外藩入嗣，出生在湖广的兴都（即钟祥），这是他父亲兴献王的封藩之地，也是他的故乡。在他继位后，兴都即更名为承天。所以，《兴都志》又称为《承天大志》，这是国史也是皇帝的家史，能够参与编著这个不一般的志，也算是很有面子的差事了。
嘉靖四十三年（1564），张居正进宫右春坊右谕德兼国子监司业，深谋远虑的徐阶荐张居正为裕王朱载垕的侍讲侍读。谕德只是个虚衔，但由于裕王很可能继承皇位，因而在裕王府里做讲读就不是等闲之职了。在裕王府期间，“王甚货之，邸中中宫亦无不善居正者”。而国子监司业则掌握了很多将来可能进入官场的人。在这期间，张居正也结识并交好内廷太监李芳等人，打开了人脉。而且张居正凭着自己过人的才华，成功赢得了未来皇帝的欣赏。据说，他讲课的时候，“必引经执义，广譬曲谕，词极剀切”，讲得非常到位，裕王往往目不转睛地盯着张居正，以表示崇高的敬意。
虽然这是一个很好的晋升机会，但对张居正来说，也是一个富有挑战性的职位。当时，国子监的祭酒高拱是张居正的顶头上司。高拱曾是裕王的老师，与其关系密切，继严嵩之后，他成为徐阶的主要对手。张居正身为高拱的副手，又是徐阶的知己，再一次置身于两大“高手”之间，这无异于在风口浪尖上斡旋。徐阶老谋深算，平厚阴柔，与张居正是在失意时结下的知交，又是举荐张居正的恩人，相处自然融洽；高拱精明强干，直拙傲慢，不易相处，可他们在诸多问题上的见解甚为相投，共事友好。在两强之间左右逢源，可见张居正为人处事之能耐。
嘉靖四十五年（1566），世宗逝世后，徐阶和张居正又以世宗遗诏的名义，革除弊政，平反冤狱，颇得人心。一切好感都集中到徐阶身上。隆庆元年（1567）二月，张居正晋升为吏部左侍郎兼东阁大学士，入阁参与机要政务。自此在内阁中形成徐阶、高拱、张居正三股势力，展开了新一轮的政治角逐。
徐阶所做的一切，为张居正在政治上的胜利打开了通道。