此时，俄国一方面唆使原阿古柏的亲信阿里达什、阿不都勒哈玛伙同爱克木汗等匪徒窜扰我乌鲁克恰提一带的边境地区，声称“奉俄国号令，攻取喀（喀什噶尔）、英筷吉沙钓各城”。当这伙匪徒被刘锦棠派军击败后，就转向南侵扰色勒库尔，“冀取该处为老巢，为复扰回疆张本”。另一方面则派外交大臣助理吉尔斯、顾问热梅尼和驻华公使布策一起谋划着如何从归还伊犁的谈判中榨取更多的东西。这种形势对崇厚说来，的确是够严峻的。
1879年7月以后，左宗棠从总理衙门那里得知崇厚步步退让，极为不满。他在给刘锦棠的信中说，“崇厚胸无定见，未免许之太易，不知若辈得寸进尺。”
8月，左宗棠在上总理衙门书中，陈述了对崇厚在俄所议条款的不同看法。随着沙俄侵略的加深和更多的暴露，左宗棠关于归还伊犁的具体主张更加明确完整，而且思想境界也随之提高。
9月26日，左宗棠上奏清廷，陈述崇厚所议各款不能允准，并深刻地揭露了沙俄对归还伊犁不讲信义、出尔反尔的侵占目的。
可是，在沙俄的威胁讹诈下，昏庸无能的崇厚于10月2日与俄国人签订了《里瓦吉亚条约》，中国虽索还伊犁九城，但却割让霍尔果斯河以西地区、特克斯河流域和穆素尔山口给俄国，从而隔断了伊犁与南疆阿克苏等地的联系。此外中国还要支付俄国人500万卢布（约合白银280万两）的占领费，并允许俄国在嘉峪关、哈密等七处设立领事馆，给予俄商在新疆、蒙古免税贸易的特权等。
可惜，清政府还未收到左宗棠的上述奏折，就已经获悉了崇厚与俄订立的《里瓦吉亚条约》的内容。
12月4日，左宗棠在向清廷上奏《复陈交收伊犁事宜折》时，又向总理衙门写了一封信。在这一折一信中，首先揭露俄国侵略的严重影响。接着，他还痛陈了崇厚所订条约的危害，说“俄国虽然名义上说归还伊犁，实际上我国只能得到一片蛮荒之地而已。”并提出了一个谈战结合的方针，是争取通过谈判解决伊犁归还问题，如果俄国拒不交还，只好以武力收复伊犁。
12月14日，左宗棠上奏《复陈李鸿章所奏各节折》，更强调对俄侵略不能退缩。他说：“俄自窃踞伊犁以来，无五日不以损中益外为务，蓄机甚深。此次崇厚出使，乃始和盘托出。若仍以含糊模棱之见应之，我退而彼益进，我俯而彼益仰，其祸患殆靡所止，不仅西北之忧也！”他斥责李鸿章像庸医给人治痞病，“但顾目前，不敢用峻利之剂，则痞症与人相终始，无复望其有病除身壮之一日”。他向清政府提出：“伏望于崇厚复命之日，将所议各款下军机大臣、总理衙门、六部九卿及将军督抚臣会议，孰准孰驳，备本所见条举以闻。”
左宗棠对伊犁问题的主张和态度，对清廷于崇厚所订条约的决断起了重要作用。12月17日，清政府收到左宗棠的一折一信后，就发布上谕，写道：左宗棠所奏“洞澈利害，深中寂要”，“该督所称先之以议论，决之以战阵，自是刚柔互用之意。所有新疆南北两路边防事宜，即着该督预筹布置，以备缓急之用”。“将来操纵机宜，该督必能通筹全局，谋定后动。”
12月26日，左宗棠驳李鸿章的奏折到北京。其后第七天，即1880年1月2日，清政府将崇厚革职议处，并如左宗棠所建议的那样，将崇厚所订条约交各部议奏。
2月19日，清政府向俄国发出国书，说崇厚所议条约多有违训越权之处，事多窒碍难行，因此再派大理寺少卿曾纪泽为出使俄国钦差大臣，希派员与之“和衷商办”。这样，收回伊犁的谈判由崇厚转到了曾纪泽的身上。左宗棠也转入以武力支持曾纪泽赴俄谈判的新阶段。
俄国为了达到自己的目的，除了政治讹诈外，还在中国东北边境增调兵力，在海上调遣军舰到中国海面游弋，还在上海邀各国在华兵船进行武力示威。在西北，更是不断制造战争的紧张气氛。1880年上半年，俄国在伊犁地区有步骑78个连，兵员11500多人，比它侵占伊犁时的2000增加了5倍多。此外，还准备从西西伯利亚征调步骑9000多人，从费尔干纳向喀什噶尔边境派出的兵力有4600多人。而且，在伊犁的侵略军正积极进行战争准备，有的部队甚至越界屯驻。不仅如此，坐镇塔什干的考夫曼还召见伯克胡里一伙，要其纠集匪徒侵犯喀什噶尔，驱除华人，恢复“七城汗国”。俄国还准备“一旦与中国彻底决裂，于1881年初就会发起对准噶尔的猛烈进攻”。
左宗棠是这次反侵略力量的中坚。他于1880年4月初在上报清廷的奏折中说，朝廷改派曾纪泽前往再议，若能词严义正，自可折其奸谋；“倘其始终狡执，论辩竭而衅端开，非合南、北两路全力慎以图之不可”。计划仍然按三路布防，准备在俄国挑起战争时进取伊犁。北路扼守精河，由伊犁将军金顺主之。兵力除金顺所部马步20营10000余人外，调金运昌的卓胜军马队500人、步队1500人前往。中路屯驻阿克苏，由广东陆路提督张曜主之。兵力除张曜原有嵩武军马队2营、步队9营计5000余人，左宗棠加拨马队1营、步队4营计2250外，还让张曜自募皖北步队千人，挑选原土尔扈特马队数百骑归其节制。西路屯集喀什噶尔，由刘锦棠主之。兵力除刘锦棠原有湘军马步25营10000余人外，加拨谭拔萃由湖南选募步队五营和谭上连挑选换防步队2000人。
左宗棠综合上述三路布防说：就现在局势而言，俄之官商、俄之兵力既归重金顶寺各处，距精河一带较近，金顺只宜坚扼要隘，遏其纷窜，不必以深入为功；中路阿克苏之军径指伊犁大城，以截断金顶寺归路；刘锦棠如由乌什、冰岭西路径指伊犁大城，则俄图援伊犁来路可断；如此路亦难进兵，则屯兵喀什噶尔外卡，遥张深入俄境之势，亦使知内患堪虞，时勤狼顾。
此时的左宗棠已年近七旬，不仅年老体弱多病，而且“西征十年，滚滚风尘，几无生趣，遥望南云，无心出岫，不胜企羡”。可是，为了祖国领土主权的完整，为了能就近部署伊犁战事，他决计亲自出关。1880年5月16日，左宗棠坐上加套快车，离开肃州启程西行。在他的后面，一队威武的士兵抬着一口黑漆棺材，以表示他有去无回、马革裹尸的抗敌决心。5月22日，左宗棠行抵玉门关。6月2日行抵安西，15日到达新疆哈密。
7月以来，俄国加紧对清政府进行战争威胁，除对中国西部外，更向中国东北边境调遣军队，派海军上将率舰队东来，扬言要联络日本，封锁辽海，进犯北京。8月4日，曾纪泽到俄外交部，吉尔斯面冷词横，盛气凌人，声称崇厚条约“只要照办，无可商议”。清政府深感形势险恶，唯恐二十年前英、法联军进犯北京的历史重演，再受城下之辱。8月11日，清政府发布上谕，以“现在时势孔亟，俄人意在启衅，正须老于兵事之大臣以备朝廷顾问”，令左宗棠“来京陛见”。
8月20日，左宗棠在哈密接到入京陛见谕召，心情十分复杂。他既感自己“衰朽余生，本不堪重寄，兹复奉恩谕陛见，并有以备顾问明文”，实在是皇恩深重；又“细绎圣意，或恐以衰疾颓唐，不宜久劳边塞，曲予矜恤之故”。对朝廷忠心耿耿的左宗棠，对不管是朝廷重寄或是身体矜恤，都“既蒙天恩宠召，自应力疾趋朝”。因此，他遵旨举荐刘锦棠督办关外一切事宜，并邀其即赴哈密筹商一切要务，以便接替自己的工作，还对时局与谈战问题提出自己的见解和主张，继续为收复伊犁贡献自己的智慧和力量。
11月14日，左宗棠离开哈密东行赴京，于1881年2月25日到达北京。左宗棠被召入京，对曾纪泽在俄谈判产生了重要影响。俄国以为左宗棠入京，中国有动兵之意。俄方首席谈判代表、代理外交大臣吉尔斯在1880年12月11日询问曾纪泽：“我风闻左宗棠现在进京，恐欲唆使构兵，不知确否？”一个多月后，吉尔斯和布策又向曾纪泽提及此事，并说，“今日之言系本国皇帝之话”。曾纪泽是熟悉世界政治而又有才干的爱国外交人员，当俄国以“如果这样拖延时间，还不如打仗合算”进行威胁时，他在左宗棠等人的支持下给予了针锋相对的回答：“中国不愿有打仗之事，倘不幸有此事，中国百姓未必不愿与俄一战。中国人坚忍耐劳，纵使一战未必取胜，然中国地方最大，虽数十年亦能支持，想贵国不能无损。”正由于左宗棠和全国各族群众的反抗和曾纪泽的力争，俄国才于1881年2月24日在俄都圣彼得堡与曾纪泽订立《中俄伊犁条约》。这一天正是左宗棠抵京的前一天。这个条约虽然仍是一个不平等的条约，但它与崇厚当初所订的条约比较，却挽回了伊犁南部特克斯河谷地、哈巴河等处领土和一些利权。
左宗棠在北京知道这个结局后，仍不满意地说：“伊犁仅得一块荒土，各逆相庇以安，不料和议如此结局，言之痛心！”但是，沙俄将它业已吞下去了的中国领土又吐了出来，这在近代史上是前所未有的事情。伊犁交涉的这种结局，对于左宗棠来说，多少也算得上是一种安慰。