唐肃宗即位的时候，国内的形势依然非常严峻。虽然他积极的调兵遣将，力图消灭叛贼，恢复唐室江山，但是此时的唐军面临着内忧外患的局面。到了至德元年年底的时候，唐军节节败退，安禄山的叛军很快又控制河北，河北再次落于敌手，形势十分危急。
就在这个时候，在安禄山的叛军内部，发生了矛盾和冲突，安庆绪杀死了父亲安禄山自立为王。安禄山早就患有眼病，起兵反叛之后视力更差，进入洛阳后不久，几乎双目失明。加之又患有疽病，导致性情暴躁，左右侍从稍不如意，非打即骂，甚至被杀。他平日居于深宫，诸将难得面见，有事都通过严庄转告。严庄虽执掌大权，也难免受到安禄山的鞭打之苦。贴身宦官契丹人李猪儿，从十来岁起就侍候安禄山穿衣解带，挨打最多，怨恨最深。安禄山的宠妾段氏，生有一子名庆恩。安禄山想以安庆恩取代长子安庆绪为皇嗣。安庆绪时常忧惧不安，父子关系极为紧张。见风使舵的严庄便与安庆绪勾结密谋，劝其杀父夺位。二人串通李猪儿充当杀手。至德二年（757）正月初五日深夜，安禄山酣然熟睡。严庄、安庆绪手持利刃，守于寝殿之外，李猪儿手提大刀直入帐内，朝着安禄山的大肚皮猛砍下去。安禄山受痛惊醒，急忙去摸床头佩刀，但刀早已被李猪儿偷走。安禄山眼前昏黑，呼叫无门。顷刻间，安禄山腹破肠出，血流满床，由于他非常的肥胖，行动不便，所以只挣扎了几下就一命呜呼了。安庆绪等人在床下挖开一个深坑，将安禄山的尸体用毡包裹起来埋进去，并严令宫中侍从保守秘密。第二天，严庄伪造诏书，宣布安禄山病危，立晋王安庆绪为太子。过了几天，安庆绪即位称帝，尊安禄山为太上皇，然后才公开发丧。安庆绪其人懦弱无能，说话语无伦次，虽然登上了帝位，但也只是一个傀儡皇帝。当时的权臣严庄害怕诸将不服，便不让安庆绪出朝会见文武官员，军政大事由他自己一手包揽办理，安庆绪则在后宫中日夜纵酒为乐。他尊称严庄为兄，又为诸将加封官爵，借以笼络人心。但这场杀父夺位的政变，犹如一次强烈地震，不可避免地造成了叛军上层将领中的不和与分裂。
得知这个消息后，唐肃宗非常兴奋，深感复国有望。唐代称首都长安为西京，陪都洛阳为东京，自洛阳和长安相继失陷之后，形势对唐极为不利。当时担任新朝廷宰相的房瑁，是个从未带兵打过仗的书生，好高谈阔论，自以为除他之外，没人能担当平定天下的重任。因此他上疏肃宗，愿领兵收复两京。这时，唐肃宗已接受李泌的建议，从灵武南下，抵达彭原（今甘肃镇原东），待机进驻扶风。而郭子仪正在北边抵御叛军，未随肃宗南下。肃宗急于早日克复京师长安，见疏以后，非常高兴，立即批准了房瑁的请求，任命房瑁为招讨西京兼防御蒲、潼两关兵马节度使，并准许他自选将佐。房瑁以御史中丞邓景山为招讨副使，户部侍郎李揖为行军司马，给事中剃秩为参谋。李揖、刘秩也都是书生，根本不懂军事，房瑁却夸口说：“贼军虽多，安能敌我刘秩？”于是，房瑁兵分三路，直指长安。十月十一日，房瑁自随中军与李光进所率北军，进至成阳以东的陈涛斜，与叛将安守忠的部队相遇。房瑁不分析具体情况，搬出古兵书上的车战法，以牛车二千乘，两旁配以步骑，摆开阵势。一声令下，驱车冲向敌阵，叛军顺风擂鼓呐喊，牛皆闻声惊骇。叛军又燃起大火，火借风势，风助火威，顿时烟火冲天。唐军人畜大乱，叛军趁机掩杀过来，唐军死伤四万余人，存者只有数千，随后房瑁逃回五灵。在这次的战斗中，唐军再次遭受重创，新朝所募士兵几乎损失殆尽，形势急剧恶化。由于当时郭子仪的朔方军也在激战，根本无暇顾及，所以这次的失败使肃宗急于收复长安的计划搁浅。
房瑁第一次与叛军较量时惨遭失败，使得唐军面临的局势更加危急。然而，没过多久，也就是正月十五日，唐肃宗又忘记了前次的失败的教训，一意孤行。他下令唐军从彭原南下，于二月十日到达凤翔（陕西凤翔），积极准备第二次进攻长安。在此之前，西域于阒王亲率五千名援兵已经赶到。还在彭原时，肃宗曾就平叛策略，问计于李泌。
唐军正在收拾败局的时候，河北又传来败报，继赵郡，常山失陷之后，河闻、景城、平原、饶阳诸郡又相继陷落。面对叛军的嚣张气焰，唐肃宗忧心忡忡，他问李泌：“今敌强如此，何时可定？”李泌是一个头脑清醒，很有政治远见和极有谋略的人，他了解全局，知道叛军的势力和弱点。也知道只有依靠郭子仪、李光弼等有才能的将帅，采取正确的决策，才能取得战争最后的胜利。李泌深刻分析了天下形势，对肃宗说：叛军每破一城，必杀老弱，强抓壮丁以供役使，抢掠的金帛妇女，都送往范阳，这说明安禄山并无雄踞四海之志。为其效命者，主要是胡人将领，汉人中只有高尚、严庄等数人，其余皆是胁从。臣预料不过两年，叛乱便可平息。因此，他主张令李光弼自太原出井陉，以牵制范阳，常山的叛军，令郭子仪由冯翊（今陕西大荔）入河东（今山两永济西南蒲州镇）使安守忠、田乾真不敢离开长安，随后再与郭子仪、李光弼轮番出击，叛军救首则击其尾，救尾则击其首，使其往来数千里，疲于奔命，我军以逸待劳，贼至则避其锋，去则乘其弊，不攻城，不遏路，待到次年春天，再逼取范阳，覆其巢穴，然后大军四合，围歼中原叛军，这样就可以彻底平定叛乱。肃宗听了，觉得很有道理，立即转忧为喜。李泌的这一战略决策，是基于叛军势力处于明显优势的这一客观形势作出的。在战略战术思想上，与郭子仪、李光弼在潼关失陷之前提出的主张是完全一致的。在战略上，反对急于收复两京，而主张以消耗叛军有生力量为主，逐步促成双方实力对比的转化。否则，即使收复了两京，敌军退回河东，仍有可能卷土重来。在战术上，反对轻率地以自己有限的兵力去与强大敌军进行决战，主张采取以逸待劳、避其锋芒的方针，不盲目出击，以免消耗自己兵力。因此，早在郭子仪击败阿史那从礼，平定河监之后，即令其率军南下，进驻洛交（今陕西萧县）。至德二年（757）正月，史思明会同蔡希德、离秀岩、牛廷玢，合兵十万进攻太原，企图夺取河东地区，进而长驱夺取朔方。留守太原的李光弼部下精兵皆随郭子仪去了灵武，驻守太原的兵力不满万人。他率众顽强坚守，随机应敌。叛军围攻几十天，死伤万余人，也没有攻下太原。
在河北方面，自郭子仪、李光弼西入井陉后，叛将尹子奇、史思明乘机反攻，河间、景城、乐安、平原、清河、博平、信都、饶阳相继陷落。河北招讨采访处置使颜真卿自料兵力不敌叛军，弃郡南撤，渡过黄河，绕道荆襄投奔肃宗。河北全部陷落，叛军的后方重新得到巩固。河南方面，张巡仍率兵固守雍丘（河南杞县），同叛军浴血奋战。颍川（河南许昌）太守薛愿、长史庞坚竭力拒守，苦战经年而救兵不至，十二月，城池被优势的叛军攻陷，薛愿和庞坚被俘牺牲。然而更令肃宗忧心的是荆襄方面发生的变故。原来，唐玄宗在入蜀途中，采纳新任宰相房瑁以“诸王分领诸道节制”的建议，于七月十六日下诏，重新部署全国的军事指挥：以太子李亨为天下兵马元帅，统领朔方、河东、河北、平卢诸道节度使，收复两京；以永王李磷为江陵府都督，统领山南东道、岭南、黔中、江南西道节度使；以盛王李琦为广陵大都督，统领江南东道、淮南、河南诸道节度使；以丰王李珙为武威都督，统领河西、陇右、安西、北庭诸道节度使。当时，盛、丰二王皆未赴镇，只有永王一人赴镇就职。
就在这个时候，永王李磷也图谋割据东南，意图叛乱。当时，江陵（湖北江陵）是江淮地区租赋聚集之地，财货囤积如山。由于叛军占据着河南地区，江淮的租赋和奏章只能改道从襄阳（湖北襄樊）溯汉水上达至汉中，然后再转送蜀郡和扶风，供给军用。因此，江南局势的稳定与否，直接影响着肃宗新朝的财政供给来源。永王李磷得到诏命后，公开招兵买马。其所募勇士数万人，军费每日消耗巨大。而永王自小长于深宫，不懂世间事务。其子襄城王李塌勇武有力，喜好用兵打仗。又有薛璎等人为谋士，以为天下大乱，唯有南方完整富庶，永王掌握四道兵马，封疆之地数千里，应当占据金陵（江苏南京）。这一分裂阴谋，对于肃宗来说，犹如雪上加霜。肃宗灵武即位后，曾传诏劝喻永王归蜀，但永王拒不从命。为防不测，肃宗增设淮南节度使，辖广陵（江苏扬州）等13郡，以谏议大夫高适为节度使；以来填为淮南西道节度使、辖汝南（河南汝南）等5郡之地；命高、来二人与江东（浙江杭州）节度使韦陟，共同监视防范永王。十二月二十五日，永王擅自率兵顺江东下，军势浩大，但尚未暴露割据江南的图谋。吴郡（江苏苏州）太守兼江南东道采访使李希言致信，责问永王擅自发兵东下的意图。永王大怒，遣将分兵袭击吴郡、广陵，接着攻取当涂（安徽当涂），江淮地区大为震动。高适、来填与韦陟三节度使奉命会于安陆（湖北安陆），联兵讨伐永王。至德二年（757）二月中旬，永王因部将纷纷离散，兵败南逃，被江西采访使皇甫侥俘获处死。一场严重的内乱到此才得以平息。这次内乱给本来就已经十分脆弱的唐王朝又一个沉重的打击。
在这场内外都有敌人的战斗中，唐肃宗的错误决策使得唐军屡次遭受惨败，以致元气大伤。然而，值得庆幸的是，进军河北的郭子仪等将领却连连取得胜利，这也给唐军带来了一些希望。