鱼朝恩素来妬忌郭子仪的功劳，因战争失败就嫁祸于他，在天子面前讲他的坏话，故而天子召郭子仪回来，重新任命赵王李系为天下兵马元帅，又任李光弼为副元帅，以取代郭子仪领朔方节度使的兵。郭子仪虽然失去军权，没有失望，仍然心向朝廷。史思明再次攻陷河南、洛阳，西戎等羌族逼近和扰乱长安三辅地区，天子顾不上用餐，就急忙授官郭子仪为邠宁、鄜坊两道节度使，仍留在京师。有议论说郭子仪对国家有功劳，而贼寇道鼠两端，天下未平，把他放在闲散的地位，不太相宜。天子也有所觉悟。
上元年间初年，诏命郭子仪为诸道兵马都统，以管崇嗣为副职，率领英武、威远等禁军及河西、河东镇兵，由邠宁、朔方、大同、横野军向范阳进发。诏书下达不几天，被鱼朝恩所阻挠，这件事没有实行。次年，李光弼军在邙山战败，失去河阳。再下一年，即宝应元年，河中乱，绛州兵杀朔方等诸道行营都统李国贞，太原兵杀河东节度使邓景山。朝廷担心这两支军队与贼军相结合，而年轻的新将领因威望不够而不可用，于是又任命郭子仪为朔方、河中、北庭、潞、仪、泽、沁等州节度行营，兼兴平、定国副元帅，进封为汾阳郡王，进驻绛州。当时肃宗已病危，群臣没有人能见到他，郭子仪请求说：“老臣受命，将要死于外地，不见陛下，我死不瞑目。”天子在卧室接见他，对他说：“河东的事完全委托你了。”郭子仪呜咽哭泣，流下了泪水。天子常赐给他御马、银器、杂色丝织品，另外赐绢四万匹、布五万端共为九万。郭子仪到军营，斩了杀李国贞的首恶王元振等数十人，太原的辛云京也惩治害邓景山的人，这样一来，其他诸镇都比较安定了。
代宗即位，程元振自以为对天子有功，忌讳宿将难以控制，就千方百计挑拨离间。因此罢去郭子仪副元帅，加封户七百户，任肃宗山陵使。郭子仪怕别人在天子面前的挑拨离间将会得逞，于是就聚集了代宗为广平王时所赐的往来手札千余篇送给天子，并自表忠心。天子下诏说：“朕德行不高，使大臣担忧，朕很惭愧，从今以后公不必有所怀疑。”早先，代宗与郭子仪一起收复两京，共同为天下的事担忧，到这时天子悔悟，对郭子仪更加礼敬和眷念。
当时史朝义还占领着洛阳，代宗想使郭子仪为雍王李适副职，率军队向东讨伐史朝义，结果被鱼朝恩、程元振交相诋毁，就没有任命。遇上梁崇义占据襄州反叛，仆固怀恩屯兵汾州，暗中召回纥、吐蕃进攻河西，残害泾州，侵犯奉天、武功，京师震动，天子立即下诏拜郭子仪为关内副元帅，出镇咸阳抵御敌人。起初，郭子仪从相州罢官回到京师，部队离散，到下达诏书时，部下只有数十骑兵，于是召募民马补充到行队中。到了咸阳，少数族吐蕃率领吐谷浑、党项、氐、羌等军队已经渡过渭水，并沿南山向东，天子逃到陕州。郭子仪听说后，流下了眼泪，督部队从咸阳回到京师长安。遇上射生将王献忠带领用弓弩的骑兵反叛，并劫持诸王想西投吐蕃，郭子仪叱责他，用兵送诸王到天子所在处。接着率领骑士到南部商州收集逃散士兵，又得到武关防守士兵及逃亡士兵数千人，军势稍振。遇上六军将张知节在洛南迎接郭子仪，于是大规模检阅士兵，屯军在商州，威震关中。郭子仪派张知节率领乌崇福、羽林将长孙全绪为前锋，到韩公堆筑营垒，白天击鼓声震山谷，多树旗帜，夜晚则到处点燃火炬，用来疑惑吐蕃。先前，光禄卿殷仲卿在蓝田召募一些士兵，这时他率领强劲的骑兵在官军之前作为游军渡过了滻河，老百姓又欺骗贼军说：“郭令公要率大军来了。”吐蕃十分害怕。刚好射生将王甫到长安城中暗中聚集勇敢少年，晚上在朱雀街上一边击鼓一边大呼“王师来了！”吐蕃更加恐惧，全部逃离而去了。于是派大将李忠义驻屯在禁苑中，渭北节度使王仲升守卫朝堂，郭子仪的中军在后进入长安。射生将王抚自命为京兆尹，在京城作乱，郭子仪把他处斩。天子见到了破贼的文书，任命郭子仪为京城留守。
自从在仓卒之中发生事变，依赖郭子仪才得重新安定，所以天下人都归咎于程元振，群臣多次上奏论说。程元振惧怕，劝天子把都城迁到洛阳，天子同意他的意见。郭子仪上奏说：
雍州古代称天府，西面是陇、蜀，东面是崤关、函谷关，前面凭借终南山、华山的险要地形，背部有清的渭水和浊的黄河可作阻挡，地万数千里，披甲的士卒十余万，兵强而勇，真是用武的地区，这是秦、汉所以能够建国和成就帝王事业的原因。后来或者处于这地区而兴盛、离开这地区而亡国的不止一姓，所以唐高祖先入关中而定天下，太宗以来居于洛阳的也很少。先帝兴朔方兵，诛杀安庆绪，陛下席卷西土，杀戮史朝义，虽然这是上天帮助正义的一方，也是由于地势有利起了作用。这是近来吐蕃有依恃而侵犯，我们不能抗击的原因，臣能讲述它的大概。首先是六军都是市井无赖，为的是捞一个虚名，逃避实在的赋税，一旦要他们作战，有一百人会逃去而没有一个人向前；其次宦官掌权，政治昏暗，于是使陛下彷徨犹豫，最后到了陕州。这实在是用人的过失，哪里是秦的地势不优越！现在道路上的人都在流传，不知是否可信，都说将要迁都洛阳。洛阳自从安史之乱大破坏以来，焚烧得已差不多了，百官衙门荆棘丛生，整个地区不满千户，村落已成废墟，豺狼出没嗥叫；东靠近郑州、汴州，南到徐州，北直到怀州、卫州和相州，千里萧条，亭舍都不冒烟，如何来供应天子这么多马匹的饲料，供给百官的住房？而且这里地方狭小，周围才数百里，是平原地区无险可守，反而正好作为战场。陛下迁都的意思不就是因为畿地区新遭吐蕃蹂躏，国家需要的东西不足吗？想春秋时卫国被狄人所攻灭，卫文公住在曹国，穿大布的衣服，戴大帛做的帽子，终于恢复旧邦，何况赫赫的天子，如果亲自带头节俭，还能在一个诸侯之下吗？臣但愿陛下能退掉只会吃饭而不能干事的多余的人，抑制宦官的权力，任用忠直的大臣，轻徭薄赋，抚恤老弱孤独的人，委任宰相选拔贤能的人才，交给我训练士兵抵御外敌的任务，那么唐朝的中兴，就指日可待。虽然时间已过了多天还是应该立即回去，见宗庙，谒园陵，使唐王室再生，那么天下百姓就有好日子过了。
天子看到这个奏疏，流泪对左右侍臣说：“郭子仪真是国家的忠臣呀，我决心向西回长安。”天子回到长安，郭子仪叩头谢罪，天子慰劳他说：“用你迟了，故而到这地步。”赐给铁券，把他的像画在凌烟阁。
仆固怀恩放纵士兵掠夺并州、汾州所属的县城，天子很忧患，任命郭子仪为兼河东副元帅、河中节度使，镇守河中。仆固怀恩的儿子仆固玚屯兵在榆次，被部下张惟岳杀死，首级传到长安，张惟岳带着他的部下投奔郭子仪。仆固怀恩害怕，抛下他的母亲向北逃到灵州。广德二年，郭子仪进而被任为太尉，兼领北道邠宁、泾原、河西以来通和吐蕃使及朔方招抚观察使。郭子仪辞去了太尉的职务。仆固怀恩招引吐蕃、回纥、党项数十万人进犯，朝廷大震，诏命郭子仪率领诸将出镇京兆奉天县。天子召他问有何计谋，郭子仪说：“他是不会有所作为的。仆固怀恩本来是臣的偏将，虽然剽悍果断，但一向失去士兵的心，现在能和他一起作乱的人，都是一些想回老家的人，而且是威胁而来，他们又都是臣的老部下，我们之间有恩情，他们能忍心拿刀来砍我们吗？”天子说：“好。”贼军进犯邠州，其前锋到奉天，各位将领请求出击。郭子仪说：“敌人深入我处，速战对我们有利。他们的部下一向感我恩德，我等待一下，他们就会分化。”于是下命令：“敢再讲出战的人斩首！”坚守营垒严阵以待，贼军果然逃走了。
郭子仪从泾阳到长安，多次受到恩赐，进而拜官为尚书令，他恳切辞退，天子不准。诏命他赶快到尚书省办公，百官都向他庆贺，天子命射生将五百骑兵拿着戟护卫他。郭子仪坚决推辞，他说：“太宗曾经担任过此官，所以以后几个皇帝都空着这个位置，皇太子为雍王时，平定关东，才得以授此官，怎么可以为了照顾老臣，而改变国家的制度？而且自从用兵以来，我受到的不该有的赏赐很多，以至身兼数官，我感到冒进而惭愧，现在凶恶的敌人略有平定，是应该加强法典审核官吏的时候，这应该从老臣开始。”天子不得已，准许了他，并把这事前后经过嘱史官记下。赐给美人六名，随从自备，车子服装帐幕等都具备。
永泰元年，诏命郭子仪为都统河南道节度行营，再次镇守河中。仆固怀恩诱说吐蕃、回纥、党项、羌、浑、奴剌等共30万部众入侵，掠夺泾、邠两州，蹂躏凤翔，进入醴泉、奉天、京师长安大震。于是代宗命李忠臣驻屯渭桥，李光进驻云阳、马璘、郝廷玉驻屯便桥，骆奉先、李日越驻屯盩厔，李抱玉驻屯凤翔，周智光驻屯同州，杜冕驻屯坊州，天子自率六军在禁苑中。又急忙召命郭子仪驻屯泾阳，他的军队才一万人。刚到，少数族的骑兵已经完成了包围圈，郭子仪命李国臣、高升、魏楚玉、陈回光、朱元琮各当一面，自己率领穿铠甲的骑兵2000人战斗出入于敌阵之中。回纥人奇怪地问：“这人是谁？”回报说：“郭令公。”回纥首领吃惊地说：“令公还活着吗？仆固怀恩说唐天子已弃天下而死，令公也已去世，中国无主，故而我随从他而来。公现在还活着，唐天子还活着吗？”回答说：“唐天子万寿。”回纥将领有所觉悟，说：“他欺骗了我们！”郭子仪派人告谕回纥将领说：“过去回纥远涉万里，讨伐安史元凶大恶，帮助恢复长安和洛阳两京，我们和你们休戚与共。今日你们抛弃旧的好朋友，帮助叛臣，是何等愚蠢！仆固怀恩背叛天子抛弃亲人，与你们回纥有何好处？”回纥的将领说：“本来以为令公已亡，不然的话，我们何至于到此地步。现在令公既然还活着，我可见他吗？”郭子仪准备出去见他们，左右部下进谏说：“戎狄之人有野心，不可相信。”郭子仪说：“少数族士兵比我们多十倍，现在我们论实力是敌不过他们的，我只能向他们表示我最诚恳的心。”左右请郭子仪带500骑兵随同前去，又不同意，于是立即传呼说：“郭令公来了！”少数族士兵都拉满了弓严阵以待。郭子仪带了数十人骑马而出，不穿盔甲，见了回纥的大酋长说：“各位大人和我们同患难已经很长久了，为什么忽然抛弃忠信友谊而到这般地步呢？”回纥首领当即离开卫兵上前下马拜谢，说：“果然是我们的长者呀。”郭子仪当即召他们来一起饮酒，送给他们锦彩等丝织品，双方谈得十分高兴，发誓要友好得与以前一样。郭子仪乘机说：“吐蕃本来与我们国家结为甥舅，现在他们背叛负心而来，是抛弃了亲人。他们的马牛弥漫数百里，你们如果能倒戈一击，乘机进攻他们取其牛马就像弯腰拾芥菜一般容易，这是天赐良机，不可失去。而且打败吐蕃得到了利益，又与我们继续和好，这不是一举两得的好事吗？”刚好仆固怀恩突然死去，许多少数民族军队没有了统一的领导，于是回纥就答应了。吐蕃有了怀疑，夜里就逃离而去。郭子仪派将领白元光联合回纥军队在后面追击，大军紧随追去，在灵台西原大败了十万吐蕃兵，斩首五万级，俘获万人，全部获得吐蕃所掠的百姓牛羊马骆驼等不可胜数。于是郭子仪从泾阳回京师朝见天子，加封邑二百户，后又回到河中。
大历元年，华州节度使周智光叛变，天子命人从偏僻小道用蜡裹的诏书赐郭子仪，命令他率领全军去讨伐。同州、华州的将吏听说军队出发，杀了周智光，把他的首级传送到朝廷。二年，吐蕃进犯泾州，诏命郭子仪移军到泾阳。在灵州与吐蕃发生战斗，打败了它，斩首两万余级。下一年，回到河中。吐蕃再次进犯灵武，诏命郭子仪率领五万军队驻屯奉天。白元光在灵武打败了吐蕃。有人议论吐蕃屡次进犯，马璘孤军在邠州不能支持，于是朝廷任命郭子仪兼邠、宁、庆三州节度使，驻屯邠州，徙马璘为泾原节度使。回纥赤心请唐朝买万匹马，有关衙门以经费缺乏的理由，只同意买千匹。郭子仪说：“回纥有功劳，应该同意他们的要求，中原也需要马，臣请求交出一年的俸禄，来增加买马的经费。”朝廷下诏不同意，但人们都赞扬他的忠心。
大历九年，郭子仪到京师入朝，在延英殿，天子与他谈到了吐蕃的强盛，很激动，以至流下了眼泪。退下后，郭子仪上书说：
朔方，是国家北边的门户，西边防御犬戎，北边警戒猃狁，五座城相距三千里。开元、天宝年间，有战士十万，马三万匹，仅支撑这一边区。自从先帝在灵武即位，战士们随从陛下出征讨伐没有过上安宁的日子。近来因仆固怀恩之乱，由于伤亡消耗，人少了三分之二，比起天宝年间中期只有十分之一。现今吐蕃兼有河西、甘肃一带土地，杂有党项、吐谷浑的部众，每年深入到京师附近，势力强大十倍，与他们战斗取胜，岂是容易的事？近时少数族来，称四个节度，每将分别有万人，每人有数匹马，臣所统率的士兵不及贼军的四分之一，马不及贼军的百分之二，内外都畏惧，将怎么安心呢？臣思陛下要战胜，力并非不足，但挑选好的士兵没有来到，进退无统一计划，军队滞留久而疲劳，地区太广力量分散。请求在各道发精兵共计五万人，分别驻屯在北边，则制胜敌人是必然的。窃以为河南、河北、江淮大镇数万，小镇数千，尽少粮食供给，未必先去聚集选择。臣请追赶到关中，挑选步兵队伍，教给他们作战进退的军纪，那样就进攻必能破敌，防守必能保全，是长治久安的计策。
又陈说自己已经衰老，请求退休回老家。天子下诏说：“朕始终要依赖你，不可以离开职位。”没有准许。
德宗即位，诏命郭子仪还朝，任代理冢宰，充任山陵使，赐号为“尚父”。进一步升为太尉、中书令，增加食邑封户连同以前的共为二千户，给1500人的粮食，200匹马的草料，全部罢去所任的“使”和“帅”的职位。建中二年，郭子仪患病，皇帝派舒王李元名到他家中传达诏命问候，郭子仪已不能起来，叩头谢恩。这一年他去世，年龄85岁。德宗哀悼痛哭，停止上朝五天。诏命群臣往他家吊唁，凡丧事所需的一切都由官家供给，赠官太师，陪葬在建陵。在下葬那天，德宗到安福门，哭得比他死的那天还厉害，百官都在一旁陪着哭。赐谥号为“忠武”。在代宗庙廷里附祭。按照令文，一品官坟高一丈八尺，诏命他的坟再增加一丈，用以表彰他的首功。