自从回到长安后，李辅国不仅成为皇宫总管，而且掌握了禁军。他深居皇宫，每日侍奉在肃宗左右，凡是肃宗发布的军政诏令，都必须经过他签字才能施行。除非正式朝会，平时宰相百官上朝奏事，肃宗一般不出朝，均由李辅国代替接奏，发布号令。李辅国大权在握，不是皇帝，胜似皇帝，就是深居皇宫的宦官也不敢直呼其名，而是尊称他为“五郎”。
张皇后有个儿子叫李佋，才几岁。被封为兴王。她为了将来能当上皇太后，就勾结李辅国，威逼肃宗要立自己的儿子李佋为太子。肃宗征求大臣李揆的意见，说：“成王李俶跟随朕出生入死，功劳极大，朕欲立为太子，卿意如何？”李揆马上跪下，双手作揖：“陛下此次决定，实在是社稷的福气，恭喜陛下。”肃宗又想起李泌临走时的嘱咐，就高兴地说：“我意已决，任何人不能改变。”于是，肃宗没有答应张皇后和李辅国的要求，而是很快将成王李俶立为太子，并改名为李豫。张皇后对李豫更加痛恨，一心想陷害他，但却抓不到太子的任何把柄。
唐玄宗被肃宗迎回长安后，住在兴庆宫，整天花天酒地，寻欢作乐。为了显示太上皇的威风，他还经常在长庆楼设宴，款待一些将军和大臣。玄宗曾劝肃宗不要重用李辅国，李辅国知道后，对玄宗怀恨在心，就在肃宗面前造谣说：“太上皇居住在外面，与外人多有联系往来，他们恐怕要对陛下动手，不如把太上皇迁入皇宫来。”肃宗听了，虽然感到吃惊，但没有同意。
李辅国并不甘心，他假传圣旨，请太上皇到太极宫赴宴，实际上是强迫唐玄宗移居到太极宫去。唐玄宗移居到太极宫的第二天，肃宗才知道事情的真相。他龙颜大怒，立即召见李辅国，想给他点颜色看看。没想到，李辅国到来，还带着六军统帅和各位大将，威风不可一世。肃宗说：“你们可知罪？”
李辅国却不慌不忙地说：“禀皇上，臣是迫不得已才出此下策，不如此，皇上您地位不保，六军不安啊。”肃宗害怕马嵬坡兵变的闹剧重演，只得忍着气说：“好了，你们都回去歇息吧。”李辅国完全把肃宗皇帝架空了，完全取代了皇帝决定朝政大事的权力。从此，肃宗对李辅国已经由原来的信任而变成仇恨了。
上元二年（761）八月，李辅国被封为兵部尚书，依然掌握兵权。但这些官位仍然满足不了他那颗贪得无厌的野心，他向肃宗提出了更为苛刻的要求，要担任宰相职务。肃宗对李辅国的无理要求非常生气，但又不敢横加拒绝，只是微微一笑，婉转地说：“以您的功劳，做什么官都可以，只是怕文武百官不同意。”李辅国碰了软钉子，并不死心。他暗中活动，拉拢朝臣，让百官上表推荐自己。肃宗对李辅国的阴谋了如指掌，他暗中召见宰相萧华，对萧华说：“李辅国想当宰相，如果百官大臣的推荐奏章递上来，那么就不得不让他当宰相了。”萧华知道肃宗的苦衷，就联络仆射裴冕，坚决不能推荐李辅国。裴冕是肃宗的旧臣，非常正直，他说：“李辅国找过我了，让我推荐他当宰相，我没有答应他。现在即便砍断我的双臂，我也不会推荐他当宰相。”由于肃宗有萧华和裴冕等大臣的支持，李辅国的宰相梦彻底破灭了。因此，李辅国对萧华和裴冕恨之入骨，准备伺机报复。
肃宗宝应元年（762）三月，求相不得的李辅国首先对宰相萧华开始了报复。他多次在肃宗面前诬陷萧华专权，请求罢免他的宰相职务。肃宗知道李辅国是在报复萧华，就没有答应。李辅国坚持要罢免萧华，软弱的肃宗没有办法，只好下诏罢免了萧华，降为礼部尚书，让李辅国的亲信元载接替了萧华的相位。四月，李辅国又串通元载，诬陷萧华不轨，再贬萧华为峡州司空，逐出了京师。接着，李辅国利用同样的手段，把裴冕贬为冕州刺史，逐出了京师。这样一来，李辅国更加目空一切了。
宝应元年四月，肃宗皇帝病重不能上朝，便把军国大政交给了皇太子李豫，令其监国。张皇后原先威逼肃宗立自己的儿子李佋为太子，肃宗没有答应，而是把李豫立为太子。后来，她的小儿子不幸夭折了，但她并不死心，便打算立肃宗的二儿子越王李系为太子，以换掉李豫。肃宗病重后，张皇后就加快了要废掉李豫的步伐。
李辅国的发迹，与张皇后的暗中支持有很大关系。张皇后和李辅国为了各自的利益而互相利用，互相勾结，表面上相处得很好。但现在不同了，肃宗皇帝久病不愈，李辅国专权跋扈，对张皇后就不那么恭敬了。张皇后想垂帘听政，李辅国想独霸天下，二人之间的矛盾不断激化，最后发展到水火不容的地步。
要废掉李豫，必须先除掉李辅国。张皇后使出了借刀杀人的手段，想利用李豫杀掉李辅国。她找到李豫，历数李辅国罪状，要李豫当机立断。没想到，李豫听后却吓得哭了。张皇后知道李豫不能成事，就又找到肃宗的二儿子越王李系，一心想当皇太子的越王李系一口答应下来。他选拔了宦官二百多人，埋伏在长生殿后，准备在李豫进宫看望肃宗时发动兵变，杀死李豫。
张皇后的阴谋不想被李辅国的亲信程元振觉察了，他立即将此事报告给李辅国。李辅国果断采取行动，封锁了宫中的各个大门，阻止李豫进宫。张皇后见事情败露，一筹莫展，只好站在已经不能说话的肃宗面前等待死亡的到来。晚上，李辅国和程元振带着羽林军包围了皇帝的寝宫，他们见人就杀，见好东西就顺手牵羊拿走，并直接冲进了肃宗的卧室，当场抓住了张皇后。肃宗经受不了如此的打击，惊吓而死，年52岁。
肃宗一死，李辅国的胆子更大了，他下令将张皇后、越王李系等人一同斩首。受牵连的一百多人也全部被杀，并株连九族。第二天，李辅国让李豫穿上孝服，与大臣们相见。在李辅国的拥戴下，李豫在肃宗的灵前即位，这就是唐代宗。