其实，自从安禄山被杀之后，叛军内部的矛盾就已经是非常激烈，而史思明与安庆绪本来就有矛盾。当初安庆绪兵败洛阳之后，他的部众被唐军冲散，有不少将士逃回范阳，随即被史思明收编。当安庆绪从河南北逃时，其大将李归仁所率精兵“曳落河”、同罗及六州胡兵共约三万余人，逃往范阳，沿途大肆抢掠，所过之处，人财无遗。史思明闻报后，整军为备，并派出使者在范阳境内迎接招抚，“曳落河”及六州胡兵愿意归顺，唯同罗兵不从。史思明纵兵攻击，同罗兵大败，抢掠来的财货人畜全部被夺走，残余人马逃回漠北。这时，史思明控制的地盘有十三郡之大，兵力达八万余人，超过了安庆绪。安庆绪忌恨史思明兵力强盛，预感无法控制，心中极为恐慌。安庆绪担心史思明势力太强，于己不利，于是在至德二载（757）十二月，安庆绪派阿史那承庆、安守忠率领五千名精锐骑兵以征调兵马之名，前往范阳，企图借机行事，除掉史思明，将其所部兵马夺为己用。史思明闻其入境，料知不怀好意，于是立即与部下秘密商议。其手下节度判官耿仁智、裨将乌承瑾相继进言：“唐室复兴，是天下民心所向。安庆绪如同草叶露珠，难以长久。如果款诚归顺，洗刷过错，才能转祸为福。”史思明听后，点头称是。此时的史思明见叛军河南大败，军心动摇，又害怕安庆绪以伪帝名义召集诸将来攻，经过一番考虑之后，史思明准备归降朝廷。
当安承庆和安守忠来到范阳时，史思明出动数万兵马开城列阵相迎，双方相距一里之遥。史思明派人传话，以温言软语诱使安承庆等人放松戒备，然后邀进城内宴欢饮酒，一同作乐。同时派兵将到城外，收缴了安承庆部下的武器装备，其愿留者给予重赏，分隶于范阳各军中；不愿留者，发给路费遣散。第二天，史思明下令囚禁安承庆和安守忠等人，并派其部将窦子昂奉表前往长安，以所辖十三郡和八万兵众归降，同时据守云中的高秀岩部也投降了唐廷。同年十二月二十二日，窦子昂到达长安。唐肃宗喜出望外，下诏任命史思明为范阳节度使，封爵归义王。同时任命乌承恩为范阳节度副使，和内侍李思敬一同前往范阳，传宣诏命，抚慰将士，敕令史思明率所部兵马，准备进讨安庆绪。但是，由于史思明是安禄山反叛的死党，唐朝廷中一些大臣对其是否诚意归降，持有戒心。河南节度使张镐上奏说：“史思明凶恶阴险，借叛乱窃据高位。如今大势将去又奉表归降，实在是人面兽心，难用仁德感化。朝廷切不可轻信其人。还有滑州防御使许叔冀，也是奸猾多诈之徒，临难必变，请将其征召人朝担任宿卫，以防再生枝节。”当时的大将李光弼，也认为史思明最终还会反叛。然而，面对这样的节节胜利和眼前的大好形势，再加上唐肃宗已经非常厌恶战争，所以在侥幸心理下，他没有听用张镐等人的建议。于是，李思敬和乌承恩奉使到河北后，一路宣布诏旨。
其实，史思明并不是诚心投降唐朝廷，而是缓兵之计。史思明知道，在这段招抚的时间里，唐军不会开战。同时，邺城南临黄河，西有太行山脉，处在山河交接的死角地带。史思明占据沼州、魏州之后，从北部和东部对郭子仪等围攻邺城的唐军，构成弧形的包围阵势，加上邺城尚未攻克，这对唐军是一个很大的威胁。李光弼识破了史思明的战略意图，认为史思明得魏州而按兵不进，是想等待唐军疲惫松懈，然后乘机以精锐袭击。他主张抽调河东和朔方军直逼魏州，史思明也吸取了嘉山惨败的教训，一定不敢轻出。这样时间一久，邺城必然疲困不堪，必定为唐军攻克。邺城一破，魏州的史思明就更加孤立，更容易被唐军消灭。可是对军事一窍不通的鱼朝恩，拒绝采纳李光弼的正确建议一再贻误战机。
第二年六月，李光弼看出史思明终将叛乱，于是就请奏唐肃宗以乌承恩为范阳节度副使，令他密谋除掉史思明。早在安禄山反叛之前，乌承恩之父乌知义曾任平卢军使。当时，史思明在乌知义部下为将，乌知义待其有恩。安禄山起兵叛乱时，乌承恩担任信都（河北冀县）太守，举郡投降了史思明叛军。史思明念及旧恩，保全了他的性命。及至安庆绪败逃河北，叛军势力衰落，乌承恩想立功赎罪，便劝说史思明归降，又散私财招募部曲，还多次男扮女装，暗中游说其他军营的士卒，此事被人报告给史思明。但史思明怀疑事证不实，没有追究。不久，乌承恩入长安，得以奉诏同李思敬宣慰河北，更想趁此机会，图谋诛杀史思明，以建大功。当乌承恩到达范阳后，史思明留其宿于客馆，又召其在范阳的小儿子到客馆相会。当日半夜时，乌承恩悄声告诉儿子说：“我奉皇帝之命来除史思明这个逆贼，事成之后朝廷就会任命我为节度使。”然而，在这种复杂的局势下，史思明对乌承恩的突然前来还是非常的怀疑。于是，他提前就派了两个亲信，潜伏在乌承恩和儿子相聚的房内的床下，以探虚实。果然，两人一听此谋，从床下大叫而出。史思明立即逮捕了乌承恩父子，责问乌承恩：“我有何负于你？你竟这样来对待我！”乌承恩为保住性命，妄言求饶说：“我知罪。这些都是李光弼的计谋。”于是，史思明便伪造了李光弼给乌承恩的密信、跟随史思明反叛的数百名范阳将士的名册、唐朝廷赐给安承庆共谋史思明的铁券等，然后召集将士官吏和民众，向西大哭说：“臣以十三万之众归降朝廷，何负于陛下，却要图谋杀死臣下！”遂下令将乌承恩父子乱棍打死，被牵连而死的有两百余人。只有乌承恩之弟乌承瑾闻风逃往太原，投奔李光弼，幸免一死。接着，史思明下令囚禁中使李思敬，并将此事情状上表于唐朝廷。
唐肃宗派给乌承恩的招抚任务失败后，不仅乌承恩身死，而且还使得朝廷陷入被动。然而事已至此，唐肃宗还是不忘他的招抚计划，于是再派中使到范阳去慰喻史思明：“此事本非朝廷与李光弼的意图，皆乌承恩一人所为，杀之甚善。”恰在这时，唐朝廷处置降敌官员的公告文书传至范阳，其中达奚葫、陈希烈等25人处斩或赐死。史思明心中更为忧惧不安，召集诸将商议道：“陈希烈等人原先都是朝廷重臣，如今尚且不能免死，更何况我们本来就是跟随安禄山起兵的叛臣，李唐朝廷岂肯真心赦免饶恕！”这一来，范阳将士人情汹汹，史思明遂上表唐朝廷，要求杀死李光弼，声言“陛下如果不为臣杀掉李光弼，臣将亲自率兵前往太原杀死他。”时在乾元元年（758）六月。其实，这个时候史思明的反唐之心更加的坚定了，而此时的这些请求无非是让唐朝廷陷入两难境地。
随后，唐肃宗深感招抚已经没有希望了，于是，遂下令郭子仪等节度使进取邺城。然而，邺城城池坚固，唐军自冬至春，久攻不下。镇西节度使李嗣业，亲率所部攻城，被城上毒箭射中，死于军中。二月，郭子仪等筑堤两重，堵漳河水灌入城中，城内一片汪洋。叛军有的爬上房顶，有的构筑窝棚，数十日以后，城中柴尽粮绝，一只老鼠值钱四千。安庆绪不知所措，日夜盼望史思明来救。唐军以为邺城随时可破，产生了松懈情绪。史思明见邺城危急，遂从魏州领兵来救。
史思明在魏州以逸待劳，估计唐军已经师老势屈，便开始采取行动。二月中旬，史思明指挥叛军进至距相州五十里处扎营，并下令每营击鼓三百面，威慑唐军而声援安庆绪；又令各营挑选五百名骑兵，不分昼夜，轮番到城下骚扰唐军，伺机抢掠。唐军出击时，叛军立即四散奔逃，于是唐军各营每天都有人马和牛车遭受损失，而且昼夜难得安宁，更为疲困。唐军数十万人马，野营征战将近半年之久，粮草补给所需甚为巨大。大军群集于相州城下一隅之地，樵采也日益艰难。时值天下饥馑，为供应作战，南自江淮，汾（山西汾阳），舟车相继，转输粮草。奸狡多计的史思明，又选派军中壮士伪装成唐军，分作小股，打着唐军旗号，深入到半途督促运粮民夫，借故斥责行路缓慢，随便杀人，致使运粮者人人恐惧，纷纷逃命，遇到唐军转运粮草的车船聚集之地，便暗中纵火焚烧。这些小股游击叛军，出没无常，忽聚忽散，而且有暗号相互辨识。而唐军的逻捕士卒既抓不到人，又侦察不出其行迹，防不胜防。结果导致围城的唐军各营粮供不继，人心涣散，咸思回归，斗志自溃。二月末，史思明停止其“疲敌”之策，指挥叛军大队直逼相州城下，与唐军约定日期决战。三月六日，唐军步骑兵号称六十万人，布阵于相州东面的安阳河之北。史思明自率精兵五万人前来交锋。唐军将士遥望叛军兵少，还以为是前哨游兵，并未介意。叛军虽然人数居于劣势，但养精蓄锐，士气方盛。史思明更是身先士卒，带头冲锋。唐军以优势兵力，志在必胜。李光弼、王思礼、许叔冀、鲁炅等将各率所部，首先与叛军交兵厮杀。双方激战多时，杀伤相当，鲁炅被乱箭所伤，退出战场。郭子仪带领朔方军继鲁炅之后投入战斗，布阵未就，不料风云突变，天气异常。骤然之间，狂风暴起，其势席卷沙尘，摧折树木，天地之间一片昏暗，人眼难睁，咫尺之内，人马莫辨。两军都大为惊骇，唐军向南溃退，叛军向北溃退，各自奔逃，丢弃的兵仗辎重，堆积于路途，损失惨重。叛军因此摆脱了不利形势，安庆绪也暂时摆脱了困境。而对唐军来说，形势不容乐观，很多的将士早已厌战思归，受惊之下，遂成全线崩溃之势。而郭子仪威望实居于诸将之上，是故朔方军居后先溃，有牵动全局之影响。其余各节度使之兵，遂纷纷溃归本镇，并于沿途剽掠扰民，地方官吏无法制止。其混乱局势，十多天后才慢慢平定下来。只有李光弼和王思礼所部，以军纪严明，约束有方，全军返回。朔方军退至河阳（河南孟县），战马万匹，只剩三千，甲仗丢失殆尽。郭子仪下令切断渡桥，以保守洛阳。而洛阳城中的官吏百姓，风闻大军溃退，争相出城逃往山谷。东京留守崔圆、河南尹苏震等人，竟弃城远逃襄（湖北襄阳）、邓（河南邓县）。郭子仪准备坚守河阳，但士卒与民众相互惊扰，人心惶惶，遂又向西退至缺门（河南新安西）。待诸将陆续会齐，点检士卒，尚有数万。郭子仪与诸将商议放弃东京，退保蒲（山西永济）、陕（河南陕县）二州。此二州地处黄河南北两侧，西有潼关控制险要，可以据之御敌。都虞侯张用济建议道：“蒲、陕二州正闹饥荒，军需供应困难。不如坚守河阳，如果叛军来攻，诸军并力拒之。”郭子仪表示同意，立即派都游奕使韩游环带五百名骑兵，急趋河阳，张用济带五千名步兵继后。韩、张二人刚至河阳，叛将周挚也引兵前来争城，见唐军抢先一步，只好退回。张用济抓紧时间，督其士卒在河阳桥南北两端筑起垣墙，以便坚守。郭子仪与诸将上表朝廷请罪，然而，在这个复杂的局势下，唐肃宗深知不宜惩罚，于是，唐肃宗仍以郭子仪为山东、河东诸道元帅，东京留守。