张居正最终能“万人之上，一人之下”，离不开他的隐忍之功和韬晦之术，这是他在官场明哲保身的最大法宝。
严嵩专权时期，张居正大多保持沉默，有时也写些无关痛痒的文章，如各种贺表颂词，过生日贺圣寿，紫极殿修成、紫宸宫完工进贺词，丰收了颂瑞谷，下雪了颂瑞雪，下雨了颂灵雨，元旦到了贺元旦，冬至到了贺冬至，出现白鹿、白兔了，颂瑞鹿、瑞兔，有的一贺再贺，无非是“乾清坤宁”“民康物阜”“帝寿永绵”“欢腾朝野”“四海升平”之类歌功颂德的逢迎之语。所以，在严嵩当权之际，张居正与这位炙手可热的首辅相处还算融洽。但值得注意的是，在他小心翼翼地讨好严嵩的同时，他与严嵩的对手——次辅兼礼部尚书徐阶，也保持了良好的关系。一个年轻的进士，在两个互相敌对的势力中，进退有节，应付自如，周旋在两大强手之间，不得不说张居正有着天生的政治头脑，他的精明世故高人一筹。
虽然他对严嵩表示颂扬，但纯粹是官场上的应酬。作为一个志向远大、雄心勃勃的年轻人，张居正始终保持着清醒的头脑。鉴于张居正的是非观念，严嵩并没有重用张居正，也使得他与严嵩的政治集团保持一定的距离。所以很长时间，张居正并无多大作为，一直在冷眼观察，积蓄力量。
严嵩当权的时候，世宗已经很多年不上朝过问政事了，他也落个清闲，干脆把所有的政事都交给严嵩去处理。在文武百官中，除了严嵩父子，其他人很难见到皇帝，这更为严嵩独揽朝政大权创造了有利条件。严嵩利用自己的特权去排除异己，巩固自己的地位。朝中所有大权都落到严嵩父子的手里，他们一手遮天，依仗权势收受贿赂。
严嵩的儿子严世蕃比他的父亲更加奸猾狠毒，而且还非常狂妄自大。他没有参加过正规的科举考试，依靠严嵩的权势当上了太常寺卿。为官后的严世蕃更是依仗父势，卖官鬻爵、贪赃枉法。随着年龄的增长，严嵩越来越弄不懂皇帝的心思。这时候，他的儿子就展现出了过人的“能力”。严嵩往往要花很长时间才能揣摩透世宗的心意，而严世蕃只要一看，就可以很快摸透皇帝的意图，办事说话都非常招世宗的喜欢。严嵩看到儿子这么精明能干，不管什么事，都要让严世蕃来出谋划策。所以民间的老百姓都称严嵩父子为“父丞相”和“子丞相”。
严嵩接任首辅后不几年，弹劾不断，都是揭露他卖官鬻爵、公行贿赂、克扣军民、酿成边患的事实。但每一次的上疏都会被无情地打压，因为通政司的右通政赵文华是严嵩的义子，在掌握了弹劾义父的官员的情报后，就及时向义父密报，让严嵩有充足的准备进行报复。嘉靖三十三年（1554），兵部官员杨继盛上疏痛斥严嵩的十大罪、五大奸，称：“方今在外之贼，惟俺答为急；在内之贼，惟严嵩为最。未有内贼不去而可以除外贼者。”他还历数其假借朝廷之名，行一己之私利，谄谀欺君，假冒军功，危害天下，已到了臣僚不知恩谢皇上而先致谢严嵩的地步。可这次还没有等到严嵩的报复，就被皇帝惩以一百大板，打得杨继盛皮开肉绽。这样冒犯严嵩也会激怒皇帝，不仅因为严嵩是嘉靖宠信的重臣，更是因为骂严嵩，难堪的是皇帝，嘉靖皇帝才会为此勃然大怒。当时的老百姓都为杨继盛鸣冤，敢于讲真话的遭受奇冤大辱，讲假话的却青云直上，但又有何用？
当时，朝中所有官员的升迁贬谪全是凭着给严嵩父子贿赂数目的多少而决定的。
对这些张居正心知肚明，可也只能眼看朝政愈来愈受到严嵩的败坏，却无可奈何。张居正感叹道：空有凌云壮志，又能何为？
嘉靖二十九年（1550）六月，北部蒙古鞑靼部首领俺答汗进犯大明王朝的边关重镇大同。大同总兵仇鸾胆小无能，他的总兵官职是用重贿向严嵩买来的。面对俺答的进攻，他仓皇无策，只好故技重演，用重金收买俺答，乞求俺答不要进攻自己的防区。俺答接受重礼后，遂引兵东去，攻古北口，陷蓟州，直逼通州，京师告急。世宗遂下诏勤王。仇鸾在以重金贿求俺答不攻大同后，他知道俺答会深入内地，危及京师。为了乘机邀功并博得世宗欢心，主动上疏请求入援。世宗欣赏仇鸾“忠勇”，命他为平虏大将军，节制诸路勤王兵马。俺答兵直逼北京城下，大掠村落居民，焚烧庐舍，大火冲天。但各路援兵却怯懦不敢出战，只是坐观俺答烧杀抢掠。仇鸾的大同兵甚至趁火打劫，比俺答还凶狠。兵部尚书丁汝夔惶急无策，问计于严嵩。严嵩说：“在边塞打了败仗还可瞒住皇上，在京郊就难以隐瞒了。俺答掳掠饱了，就会自己离去。”丁汝夔听信严嵩的话，传令诸将，不许轻易出战。兵部郎中王尚学屡次劝丁汝夔出战，丁汝夔不敢违背严嵩的旨意，一味等待。俺答掳掠中饱后，引兵西去。平虏大将军仇鸾杀了数十个百姓的头，冒功请赏。世宗加封仇鸾为太保，并赐金币。嘉靖二十九年（1550），按中国干支纪年，是庚戌年。历史上称这次事件为“庚戌之变”。
“庚戌之变”时，张居正正在北京，他目睹政治的黑暗和严嵩的误国卖友等行为，深感权奸当国，自己的政治抱负难以实现。于是，在风高浪急的嘉靖三十三年（1554），张居正选择了急流勇退，决定窥测时机，应运而进，适时而退，不勉为其难。他借口请假养病，离开京师来到故乡江陵，休假三年。
告病请假还乡，这对于一个年轻人来说是一个重要的决定，更是一个无奈的决定。当时，张居正自述这是“以病谢归”，其实他虽体弱多病，但从现有史料中并没有什么大病亟须回乡养病和治疗的记载。所以说，“以病谢归”可能只是一种托词。
在即将离开时，张居正给自己的恩师徐阶写了一封信函，其中流露出自己归隐的真正动机。信中这样写道：荣进之路，险于榛棘，恶直丑正，实繁有徒。意思是他厌倦官场的布满荆棘、黑白不分，但对时局还抱有希望，因为在他看来，还有“身重于泰山，言信于蓍龟”的徐阶在朝廷中，希望他有朝一日能带头扫除阴霾。在这封信中，张居正陈述自己对严嵩的不满，他愤慨于时局的败坏，痛恨嫉害正直忠良之臣的奸人，高度称颂徐阶在士林中的威望，盼望他担起天下之重任。但又认为徐阶的顾忌太多：“相公内抱不群，外欲浑迹，将以俟时，不亦难乎？”“盍若披腹心，见情愫，伸独断之明计，捐流俗之顾虑，慨然一决其平生。”劝他不如以真情行事，起而抗争，不要像嘉靖初年的礼部尚书欧阳德那样抓住对方把柄而又操刀不割，错过时机，壮志未酬就已陨落，留下终身的遗憾。这封信主要表达了张居正自己因为对官场已经心灰意冷，因此萌生不如归去、悠游田园的想法。虽然如此，但他仍然殷殷期盼徐阶有朝一日能改变局面，因而许诺徐阶“假令相公兴周、召之业”，“知己之恩，每怀国士之报”。
除了官场上的失意，情感上张居正也遭受了沉重的打击。在他28岁的盛年之时，与他相濡以沫的爱妻顾氏溘然逝世，令他陷入无限的悲凉中。一年后，他偶读唐代诗人韦应物的《伤内诗》，不禁百感丛生，写下：“悲哉难具陈，泪下如迸澜。”续弦后，新婚燕尔的张居正也没有忘却亡妻之痛，在《朱凤吟》一诗中，表现了他刻骨铭心的思念：“朱凤失其群，十年不得双。早栖汉宫树，独啄瑶草芳……穷览周八极，遨游仰三光。仙游诚足娱，故雌安可忘。”从这些深情眷恋的诗中，可以看出顾氏的去世对张居正感情上的重创。这是他一生中情绪最低落的时期。
回乡之初，张居正寻得风光甚佳的湖畔修建了一间茅屋，终日闭门不出。他时而读书吟诗，时而怡静养神，经过一番调养，神气日渐清壮。待身体恢复后，他就忙于攻读经史子集，博览群书。张居正这样修身养性，闭门读书大约有三年之久。
毕竟是没有公务之劳的休假，闲云野鹤般的生活也使他流连忘返，向往世外桃源，留下不少韵味深长的诗篇。但众多的诗作表现出他复杂的感情，时而悠闲，时而彷徨，又时而奋起。可见他虽远离朝野，但仍不忘国事，心系朝政。身在山林，却心在朝廷，与山石林泉相伴，虽可怡情悦志，但这不是他的初衷，操心国事才是他的真实想法。其中，值得玩味的是《山居》：“林深车马不闻喧，寒雨潇潇独掩门。秋草欲迷元亮径，清溪长绕仲长园。苍松偃仰云团盖，白鸟翻飞雪满村。莫漫逢人语幽胜，恐惊樵客问桃源。”诗中的心境与他的心境何其相似，纵有终焉之意、烟霞之想，又怎能就此沉沦？
在《谒晦翁南轩祠示诸同志》中，张居正借游览衡山，祭拜朱熹和张南轩的二贤祠之机，终于道出“欲骋万里途，中道安可留”的心声，并以“示诸同志”告之以世人，表示他再度出山的决心。在张居正高卧山林之时，北方俺答大举侵犯宣府、大同要塞，威逼京师。他闻讯勃然而起，作《闻警》抒发自己的忧愤：“初闻铁骑近神州，杀气遥传蓟北秋……抱火寝薪非一日，病夫空切杞人忧。”诗中弥漫着对国事的关切和对时弊积重难返的焦虑。最能反映张居正忧心忡忡而有志难伸心情的是《七贤吟》，这是他对魏晋名士阮籍、嵇康、山涛、刘伶、王戎、向秀、阮咸的咏叹诗，这七人才华横溢，卓尔不群，是乱世中的怪杰。他们行为怪诞，说话玄妙，面对各种抨击和讥讽，谈笑自若，我行我素，逃避世俗，遁迹官场，与当局采取不合作的态度，并以放荡不羁的个性，挣脱礼教和功名的约束，倡导真性情和人的自然本能。由他们开创的“越名教而任自然”的玄学，是中国思想史上的一大流派。但他们的主张终为世道所不容，或被囚，或处死，后世对他们惊世骇俗的行为也多有苛责。但张居正非常理解这七君子“心有所惬”不满现实而又无可奈何，不得不“游方之外”的处境，认为世人有关他们有损名教、贻祸晋室的种种指责，不过是以小人之心度君子之腹，无损于他们的人品和气节。这种超群出众的见解，正是张居正心情的反映。这些诗歌交织着超逸与忧思、出世与入世、愤世与经世的矛盾和冲撞，经过反思和自砺，张居正终于走出了情绪的低谷。
回到故乡，作为休假的官员，张居正本可不必下田劳作的。但他出自平民家庭，与农民有着天然的亲和感。他倡导学农，并身体力行，在家乡亲自下田，种竹植树，与老农切磋农艺，同悲共欢。张居正亲身接触农民，在乡间体会到了人民的辛劳、饥寒和痛苦。在《学农园记》中，他就记述了他对农民的观察：“每观其被风露，炙熇日，终岁仆仆，仅免于饥。岁小不登，即妇子不相眄，而官吏催科，急于救燎，寡嫠夜泣，逋寇宵行，未尝不恻然以悲，惕然以恐也。”这些都深深震撼着张居正，农民终岁劳碌，仅免于饥饿，官吏的催征急如救火，逼得农民抛妻别子，逃亡他乡，这使他“恻然以悲，惕然以恐”。这悲，是对农民的满腔同情；这恐，却是对政局安危的忧虑。这一切不禁使他恻然心动，责任感迫使他重返政坛。张居正虽然身在山林，但念念不忘的依然是官员的职责和治国安民之道。即使不再操政，也有这样自发的操守，充分反映出他对社稷和民生的忧思。
这几年的乡间生活，在张居正58年的生命旅程中只是一段小插曲，但这段时间的成长却对他将来的仕途有着不可估量的作用。期间的低沉、彷徨和奋起，还有忧国忧民的困惑和焦虑，都是他潜龙之志的体现。经过休整、反思和对农民疾苦的考察，张居正对解除社会弊端已有深思熟虑，在他的心中重新燃起了一股报效朝廷的热情。除了自身对政治梦想的追求，其父张文明同样是迫不及待，敦促他及早赴任。要知道他父亲孜孜以求的功名，一生未就，终身的遗憾全都指望着儿子来弥补，眼看儿子业已进入“储相”的行列，岂能长久在家逗留！
国运的召唤，父命的嘱托，肩负着兴国、兴家的双重使命，使张居正不能不重返政坛。这年张居正已经33岁，正值壮年，在回京途中信口吟出的“割股割股，儿心何急”最能表现他急切的心情。“我愿移此心，事君如事亲，临危忧困不爱死，忠孝万古多芳声。”这首以割股命题的《割股行》引用了《庄子·盗跖》中的一则典故，说的是春秋时期晋国的介子推随晋文公逃亡落难，途中晋文公饥饿难忍，介子推毅然割下自己的臀肉，供晋文公疗饥。张居正从封建社会最高的伦理准则——忠孝两全出发，以割股的献身精神，表达了他的耿耿忠心，这是他对自己又一次步入残酷的官场的激励，更是对他重回政坛的宣言！