郭子仪被重新起用，在平息吐蕃的侵略之后，又承担起了戍卫边疆的大任。然而，战事是一波未平一波又起。早在安史之乱的时候，唐朝为了早日平息战乱，就曾向回纥借兵助战，然而，这也给后来的边防埋下了祸根。
广德二年（764）正月，唐代宗刚从陕州回到长安不久，在平定安史之乱中立有大功的仆固怀恩与朝廷的矛盾公开化。代宗自陕州返回长安后，对仆固怀恩拥有重兵，占据河东汾、晋数州之地，势力逐渐强大，感到十分忧虑。仆固怀恩是铁勒部仆骨人，是当时有名的少数民族将领。开始是朔方节度使王忠嗣部下，后来又成为郭子仪的部下。跟随郭子仪破叛将高秀岩于云中，又活捉薛忠义，攻克马邑，与李光弼会师于常山，参加赵郡、沙河、嘉山等大败史思明的战役。他的儿子在作战中战败被俘，后来又逃了回来，他怒斥儿子贪生怕死，把他杀了，将士们非常害怕，无不殊死奋战。随后，他又跟随郭子仪收复河东，攻克潼关。后来，唐肃宗为了借助回纥兵力对付叛军，命他出使回纥，并让他将自己的女儿嫁给回纥登里可汗为妾。他率领回纥兵跟随郭子仪收复两京，功勋卓著。后来郭子仪被夺去兵权，李光弼出镇临淮，他任河南副元帅、朔方节度使，率军收复洛阳，并最终平息了安史之乱。在平定安史之乱中，他全家为国捐躯的就有46人。仆固怀恩性情刚烈，桀骜不驯，并且敢于犯上。但是，由于郭子仪为人宽厚，所以仆固怀恩自愿跟随他建功立业。然而，后来郭子仪被罢兵权，李光弼为主帅的时候，治军严肃，仆固怀恩及其部下非常害怕，因此极力设法摆脱李光弼管辖，并且最终导致了邙山兵败。李光弼邙山失利之后，史朝义诱回纥袭唐。代宗因仆固怀恩与回纥可汗是亲家，命他去说服回纥，回纥因此又出兵帮助唐廷打败史朝义，最终平定了安史之乱。
广德元年（763）闰正月中旬，出兵助唐的回纥可汗率军取道河东回国，唐代宗诏命仆固怀恩送其出塞。然而，由于回纥君臣觉得对唐朝有功，于是就恃功以骄。在退去的途中，回纥军队于沿途搜掠财物，州县供给稍不如意，便行凶杀人，无所顾忌。赵城（山西霍县南）县尉马燧奉陈郑、泽潞节度使李抱玉之命，负责为回纥军队办理供应的一切事情。回纥军过境后，马燧对李抱玉进言说：“我与回纥人交谈，了解到一些情况。仆固怀恩恃功骄横，其子仆固玢逞勇轻率。如今又在河北地区树立田承嗣、李宝臣、李怀仙、薛嵩四员镇将，并对外结交回纥，肯定还会有窥视河东、泽潞的意图，应当及早防备他们。”听完马燧的分析，李抱玉觉得非常有道理，于是他们便开始有所准备，并将这一情况告知上司。
在这一路上，回纥将领和士兵非常放肆，全然没有将唐朝放在眼里。但是，唐军已经与回纥打过多次交道，所以对回纥也是有所了解。于是，当回纥军经过太原时，由于回纥可汗是仆固怀恩的女婿，河东节度使辛云京害怕他们合谋袭击军府，所以下令闭城自守，也不犒劳回纥的军队。仆固怀恩送回纥可汗出塞，往来经过，辛云京都闭城不见。仆固怀恩父子自认为功大名高，远过于诸道节度使，但是这次却受到辛云京如此羞辱，于是心中感觉非常恼怒，便上表代宗具告其事。然而，过了几天依然没有得到朝廷的任何答复。就在这个时候，仆固怀恩所统朔方军数万人驻扎在太原南面的汾州（山西汾阳），于是，他就派他的儿子，也就是御史大夫仆固玢率一万名士兵进驻太原东面的榆次（山西榆次）；裨将李光逸等人屯于祁县（山西祁县）；李怀光等人屯于晋州（山西临汾）；张维岳等人屯于沁州（山西沁源），等待朝廷的命令。
五月初，中使骆奉仙奉命来到太原。辛云京盛情接待，与其深相结纳，陈言仆固怀恩与回纥通谋，反状已经显露。骆奉仙返回京城时，经过仆固怀恩的行营，仆固怀恩当着母亲之面，设宴款待骆奉仙。仆固怀恩的母亲在席间几次责问骆奉仙：“你与我儿结为兄弟，现在又与辛云京亲近，这是为什么呢？”酒宴酣畅，仆固怀恩乘兴起舞，骆奉仙以缠头踩物相赠。仆固怀恩也想酬谢，说：“来日是端午，我们再开怀痛饮一天。”骆奉仙坚持请求启程，仆固怀恩便将他的马藏匿起来。骆奉仙心中越发不安，对左右随从说：“早上他母亲责问我。现在又把我的马藏起来，这分明是要杀我呀！”于是，乘夜晚跳墙而逃。仆固怀恩闻讯大惊，立刻追上来将马奉还。八月中旬，骆奉仙回京复命，奏言仆固怀恩图谋反叛。而仆固怀恩也将全部情况上奏代宗，请求将辛云京和骆奉仙斩首。唐代宗为求息事宁人，不追究他们双方的责任，颁诏予以优抚调解。
仆固怀恩一直认为自己是有功之臣。他觉得唐室的恢复，他有很大的功劳，但如今却遭人诬陷，身蒙反叛恶名，而朝廷对他如此冷漠。仆固怀恩越想，怨愤越大，于是上书唐代宗为自己辩解，其中历述自己尽忠报国六大功绩，言词愤激，语气责问。九月下旬，代宗派裴遵庆前往河东，宣谕仆固怀恩，并观察其去留动向。仆固怀恩抱住裴遵庆的脚哭泣诉冤，答应奉召入朝。但仆固怀恩的副将范志诚借来琪之死，劝说他不可入朝。仆固怀恩于是在第二天再见裴遵庆时，以惧死为由拒绝入朝。裴遵庆只好回朝复命。适逢御史大夫王翊出使回纥，取道河东返回京城。仆固怀恩担心自己先前与回纥可汗往来之事泄露，于是就将王翊扣留在其行营之中。十月初，吐蕃攻占京城，代宗出幸陕州，再次征召仆固怀恩入朝。但他既不奉诏，也不出兵勤王。于是，君臣之间的猜疑嫌怨更深了。此时的仆固怀恩与朝廷的猜疑日益加深，陷入了进退维谷的境地。他公开不受朝廷之命，又暗中结交河东都将李竭诚为内应，派其子仆固玢进兵，图谋袭取太原城。但被河东节度使辛云京事先发觉，立即将李竭诚斩首，登城守备。仆固怀恩就让他的儿子仆固玢领兵攻打太原，被辛云京战败。仆固玢就率兵转而进攻榆次（今山西榆次市）。
正月八日，代宗欲派检校刑部尚书颜真卿前往河东朔方军行营，去宣诏慰问。当代宗还在陕州时，颜真卿曾自请奉诏前去召仆固怀恩人朝，但未得允许。这时，代宗又想让颜真卿去劝谕仆固怀恩入朝。颜真卿回答说：“陛下在陕州时，臣前去以忠义之理相责，让他率兵奔赴国难，他还有可来的道理。如今陛下还京回宫，他进不是勤王赴难，退则不愿放弃手中兵权。这时去宣召，他怎么肯来呢？再说声言仆固怀恩反叛的人，只有辛云京、骆奉仙、李抱玉、鱼朝恩四个人而已，其余大臣都说仆固怀恩冤枉。陛下不如以郭子仪取代仆固怀恩，可以不动兵而使他臣服。”就在这个时候，李抱玉的堂弟、汾州别驾李抱真知晓仆固怀恩心有异谋，脱身来到京师。而代宗正为仆固怀恩之事忧虑不安，便召见李抱真问以绥靖之计。李抱真回答说：“陛下不必过分忧虑此事。朔方军将士思念郭子仪，如同子弟思念父兄。仆固怀恩欺骗部下说，郭子仪已被鱼朝恩所杀，众将士信以为真，所以才受其利用。陛下如果再让郭子仪去统领朔方军，将士们都会不召而来的。”唐代宗听后，觉得此计可行。
正月二十日，代宗召见郭子仪说：“仆固怀恩父子深负朕意。朕听说朔方军将士思念将军如同久旱盼雨一样，你去为朕坐镇安抚河东，汾阳的朔方军肯定不会叛变。”说完之后，唐代宗随即任命郭子仪为关内、河东副元帅，河中节度使。正月月底，唐代宗又任命郭子仪为朔方节度大使。广德二年（764）二月，郭子仪到达河中（今山西永济西南蒲州镇），河中的云南籍守将戍卒贪婪，到处掳掠抢劫，成为当地的一大祸害。郭子仪下令斩杀了十四名罪大恶极的将士，杖责了三十人，河中府马上安定了下来。仆固怀恩的部下，听说郭子仪没有死，并且已领兵到了河中，都相互感叹说：“我们跟随仆固怀恩父子做了不义之事，还有何面目再见郭令公！”因此，仆固怀恩部众离心，内部分化。仆固玢正率部攻打榆次，他的部将白玉、焦晖也临阵反正，率领士卒，将仆固玢杀了。消息传到汾州，仆固怀恩将儿子被杀的事回家告诉母亲，他母亲大怒说：“我早就告诉你朝廷待你不薄，叫你不要造反，现在众心已变，还将连累一家和众多将士，如何是好！”仆固怀恩低着头无言对答。他母亲非常恼怒，操了一把刀说：今天我为国家杀了你这个逆贼，拿你的心来向三军将士谢罪。看到这种情景，仆固怀恩慌忙逃了出来，带了三百亲兵，连夜渡过黄河，逃往灵武去了。
都虞侯张维岳在沁州（今山西沁源），听说仆固怀恩逃走了，立即赶往汾州。仆固玢围攻榆次十余日，仍未奏效，急派使者前往祁县调兵增援。李光逸把军队全部交给使者。由于士卒都没有吃饭，便行军赶路，心中都非常不满，于是行进速度缓慢。在这种情况下，带队的将领白玉、焦珲同时用弓箭射击掉队士兵，军士责问说：“将军为何要射击自己人？”白玉回答说：“今天随他人造反，终究不免一死。反正都是一死，射死又有什么关系！”到达榆次后，仆固玢斥责他们来迟了，胡人士兵说：“我们骑马，是汉人士兵不肯走快。”仆固玢于是下令殴打汉人士兵。汉人士卒非常怨愤，说节度使偏袒胡人士兵。当夜，焦晖、白玉就带兵袭击仆固玢，并将其杀死。
朔方行营都虞侯张维岳在沁州听说仆固怀恩弃城北逃，立即赶往汾州行营，安抚将士，稳定局势。之后，他又杀了白玉和焦晖，夺了仆固玢的首级，向郭子仪报功。郭子仪派牙官卢谅，先往汾州，张维岳送给卢谅大批金银珠宝，要他证实仆固玢是他杀死的。于是郭子仪便将仆固玢的首级送往京师，并为张维岳请功。当群臣入朝祝贺时，唐代宗叹息地说：“朕的旨意不能使人相信，致使功臣发生变故，朕深感惭愧，有什么值得庆贺的呢？”于是下令用辇车将仆固怀恩的母亲接到长安，优礼相待，厚养生活。一个多月后，仆固怀恩的母亲寿终正寝，代宗又下令依礼安葬，朝中功臣因此而深受感动。
随后，郭子仪来到了汾州，仆固怀恩的部众，听说郭令公来了，全部归顺朝廷，他们又喜又悲，喜的是令公终于来了，悲的是他来得太晚了，不少人都流下了眼泪。接着就有入揭发张维岳夺功杀害白玉、焦晖以及卢谅受贿的事。郭子仪听到这个情况后，十分恼怒，马上捉了张维岳和卢谅，审问明白后，将卢谅活活打死，将张维岳斩首示众，军民无不叹服。就这样，郭子仪不费一兵一卒，就抚定河东，从而避免了一次大规模的叛乱。
河东既定，郭子仪从仆固怀恩这件事，想到过去安史之乱时，各道增设节度使镇守要冲，现在安史之乱已平，而各道节度使拥兵自重，耗费钱粮，祸害百姓，建议代宗撤销那些增设的节度使，并从自己兼任的河中节度使开始。代宗看了郭子仪的表章，内心非常赞同，但怕触犯那些拥有重兵的节度使，引起新的事端，一直不敢下令执行。只是根据郭子仪的请求，撤销了河中节度使。郭子仪又请求罢免自己的关内副元帅职务，但是唐代宗没有批准。