国内的局势基本稳定了。可是，西北地区却遭到了沙俄的入侵。不久，日本又侵占台湾。为此，朝堂内展开了激烈的大辩论——海塞之争，最后还是左宗棠高瞻远瞩，重视塞防。左宗棠不顾自己已年近七十，决定西征沙俄。其实，左宗棠也怕自己这次西征是有去无回。于是，为了鼓舞士气，他让士兵为他准备了一口棺材，抬着棺材出关，最终竟然击退了沙俄，光荣地完成了使命。
在中国版图的西北部，有一块辽阔、富饶而神奇的地方，是中国西北边疆的战略要区和安全屏障，它便是新疆。新疆古称西域，自古以来就是中国的领土。
同治三年（1864），中亚细亚安集延国的帕夏（将军）阿古柏入侵新疆，攻占南路八城，不久又占领北路乌鲁木齐和伊犁地区。1871年，由于关外局势紧迫，甘肃战局又很顺利，清廷认为收复新疆的时机已到，一连下了几道诏谕，命荣全署伊犁将军，着其收复伊犁；景廉率军规复乌鲁木齐；刘铭传率淮军出关支援。又根据左宗棠参奏，将拒不出关、罪恶累累的乌鲁木齐都统成禄革职拿问，令金顺率领成禄军队出关。并命左宗棠分军进驻肃州，以为接应。
那时甘肃战事虽然顺利，但最后一个堡垒肃州尚未克复。左宗棠认为收复新疆的时机尚未成熟，首先须攻克肃州，打通河西走廊。但他同时认为，沙俄是大敌，它既已侵占黑龙江以北大片国土，现又窥伺新疆，不能不急为之备。因此他立即写信给请假回湖南的刘锦棠，嘱他在当地招募数千兵勇，迅速回西北。信中还说：“弟本拟河、湟收复后，乞病还湘。今既有此变，西顾正殷，断难遽萌退志，当与此虏周旋。急举替人，为异时计。阁下当知我心耳。”表露了决心收复失地的爱国精神，还考虑了刘锦棠作为日后的接班人。
左宗棠分析了当时的形势，上奏朝廷，主张“先关内，后关外”，当国内获得稳定、统一的局面后，再兴师远征，这是上策。然而在强敌当前，国势危急之时，却又不应拘泥于必“先安内而后攘外”，正如他在15年前处湘幕时，英法联军将对京津发动进攻，尽管那时太平军战事方殷，他却毅然提出要率湘军北上，抗击英法侵略，对于当时沙俄在新疆的军事行动，他也认为必须全力以赴。
左宗棠既反对屈服投降。放弃领土，但也不主张鲁莽从事，暂时应以低姿态麻痹敌人，暗中却要积极准备。
左宗棠在给儿子的信中，也表达了对当前西北局势的忧虑，再次声明将负责到底的决心：
俄乘我内患未平，代复伊犁。朝廷所遣带兵大员均无实心办事之意，早被俄人识破，此事又须从新布置。我以衰朽之躯，不能生出玉门。惟不能将关内肃清，筹布出关大略，遽抽身引退，此心何以自处？
在这封信中，左宗棠表明了几点认识和决心：
1.沙俄是当前大敌，阿古柏不过是一傀儡，还是容易对付的。
2.朝廷领兵大员均不可靠。
3.收复新疆，必先肃清关内。
4.他年老体弱，衰病侵寻，恐不能生出玉门，难以担负西征重任。但即使引退，也必将出关战略筹划定妥，否则“此心何以自处”？
左宗棠收复新疆的决心和信心很大，但又担心七十衰朽之躯，难以胜任。然而非常幸运的是，他终于完成了这项重任，而且也终于生出了玉门关。
同治十二年（1873），沙俄仍然占据伊犁。荣全到了伊犁东北的塔尔巴哈台，向俄国人交涉收回伊犁，但俄国人不予理会。清廷着急了，着总理衙门几次写信询问左宗棠对付的办法。他在回信中提出了对付俄国人的策略和对当前形势的分析，说：
俄人久踞伊犁之意，已很明白，情见乎词。尊处据理驳斥，实足关其口而夺其气。惟自古盛衰强弱之分，固然要讲理，还要靠实力。中国兵威对国内回乱尚未能平定，更何能禁俄人之不乘机窃踞？恐非笔舌所能争也。荣全深入无继，景廉兵力单薄，军队多见冗杂、缺额，兵无斗志。甘、凉、肃及敦煌、玉门一带本广产粮食，军兴以来，土地荒芜，人民贫困，已不足胜任大军后方基地，需要从新布置军队和筹款、筹饷各事。
继之，提出进军新疆、收复伊犁的用兵次第：
欲杜俄人狡谋，必先定回部，欲收伊犁，必先克乌鲁木齐。如果乌城克复，我武维扬，然后大兴屯政，安抚人民，即不遽索伊犁，而已隐然不可犯矣。乌城形势既固，然后明示以伊犁我之疆土，尺寸不可让人。对其派兵‘代管’，可以酬资犒劳，令彼有词可转。如彼知难而退，固然很好。如奸谋不戢，先肇兵端，主客劳逸之势不同，我固立于不败之地。俄虽国大兵强，但如不得已而用兵，我整齐队伍，严明纪律，精求枪炮，统以能将，岂必不能转弱为强，打败劳师远征的敌人吗？
左宗棠对敌我作了充分的估计，表示不惜一战的决心，而且认为俄军劳师远袭，补给线长，兵力不继，只要我国整军精武，敌人是完全可以战胜的。
同年，肃州克复，白彦虎率回军余部逃到哈密，已进驻古城的景廉告急。清廷严旨促金顺出关增援，并命左宗棠在玉门设转运粮台。左宗棠因全军久战疲劳，决定先派张曜一军出关，金顺军和凉州副都统额尔庆额马队以次继进。又命出关各军设局采运甘、凉州当地粮料，先集中在肃州，然后递运到玉门、安西。
1874年，金顺和额尔庆额的部队相继出关，出关各军先后进抵安西。不久金顺军到达古城，增援景廉的部队。张曜军也已屯兵哈密，清军在新疆已作好作战的准备。
肃州克复后，清廷授予左宗棠协办大学士，又晋东阁大学士，仍兼陕甘总督。这是给他的最高荣誉。按清代惯例，未入翰林者不能授大学士（即宰相），这是对左宗棠的殊荣。不过这时是“遥领”，还无实权。清廷对人事方面又作了一些布置，诏授景廉为钦差大臣，督办新疆军务；金顺为帮办大臣，眼看收复新疆的圣战即将开始了。
也就是在这一年，同治皇帝载淳，从6岁即位，在位13年，正当开始独自“亲政”的时候，突然去世。由醇亲王奕譞的儿子、4岁的载湉继帝位，改元光绪。奕譞是咸丰帝的弟弟。由于新皇帝年幼，又与同治帝是同辈，所以两宫皇太后仍然垂帘听政。