在1878年12月攻占喀什以后的岁月里，左宗棠忙于新疆的重组和重建。他重新规划区域，重新测量农地，重建村庄和城镇，设立学校，改革货币，改革财政体制，试图引进养蚕业，刺激农业生产，在该地区建立一种行政体制，其基础是恢复本地头人管理百姓的办法，并将之条理化。新疆于1884年建省，由左宗棠所完善的行政体制直到革命成功、推翻清朝统治之后仍然存在。在新疆的一些地区，现在仍然有效。
左宗棠于12月22日抵达兰州，休整几天后，他于1881年1月3日继续旅程。总督左侯爷要离开他大建功业之地的消息迅速传遍了甘肃。按照中国人的算法，他已经进入生命的第70个年头，可以肯定，这位大总督离开甘肃会一去不返了。
左宗棠于2月24日抵达北京，大约与此同时，他接到了与俄国签订最终条约的消息：中国人收回了新疆的最后一角。
当左宗棠抵达北京时，他发现自己置身于一个很不适合他那率直脾性的世界。还没进城，他就遇见了腐化堕落的实例。腐败已经吞噬了朝廷，使认真管理国家事务的企图一败涂地。他碰到了一个惯例：所有任期结束奉召进京的高官，都要在城门口交纳一笔银子。那些刚从油水特厚的位置上退下来的官员，有时要交纳10万两之多。左宗棠来到京城门口，门房要他交纳4万两，被他拒绝了。他说，皇帝召他进京，他就来了，如果进入国都面见皇上要交钱，那就应该由朝廷埋单。至于他，一个铜板也不会掏。他在城门外等了5天，直到事情有了转机，但他始终未掏腰包。
进入京城的第二天，皇太后宣他召对。那天慈禧太后身体不适，召对由慈安主持。究竟是由于从哈密到北京长途旅行的疲劳？由于环境陌生？由于慈安接见时态度十分和蔼？或者是由于各种因素的综合？左宗棠生平第一次失去了镇定，他哭了。
慈安皇太后是一个具有罕见魅力的女人，生就一副软心肠。她对左宗棠及其历经的千辛万苦表现出深切的关怀，致使左宗棠的防线彻底崩溃。这个男人一生中遭到不断的反对和非议，已被锻造得如钢铁一般坚强，但是此情此景，得到如此的同情，他再也撑持不住了。
皇太后看到了他的泪水，柔声问他为何如此。左宗棠说，眼睛本来不好，一路上被风沙刺激。皇太后又问他如何保护双眼，他说平时都戴眼镜。慈安叫他戴上。召对时戴墨镜有失于恭敬，左宗棠不肯，慈安执意叫他戴上。左宗棠从口袋里掏出眼镜，哆哆嗦嗦，眼镜掉到地上摔破了。慈安叫太监取来咸丰皇帝用过的墨镜，交给左宗棠。他戴着皇帝的眼镜走出召对的宫殿，这件礼物立刻令他深陷于谦卑。
左宗棠被任命为皇帝的军机大臣，掌管兵部，在总理衙门行走。按照惯例，升任高级京官的任命书由太监宣读，而接受任命者应该给太监一个大红包。当左宗棠听宣任命时，他给了太监100两银子。太监的表情非常惊讶，左宗棠想：莫非我的慷慨把他吓着了？于是又给了他50两。接着太监开始问起咸丰的那副眼镜。左宗棠根本没听出他的言外之意，说了些无关紧要的闲话，就此作罢。
慈安皇太后在首次召见他以后，没过几天就去世了。她的谢世是一个非常意外的事件，普遍的看法是，她死于伙伴慈禧皇太后之手，后者是个无情而专制的女人。慈禧病重，是众所周知的事情，有人怀疑她会一病不起。当宫内宣布皇太后驾崩时，京城中人一开始都以为死的是慈禧。当大家得知死去的人是慈安时，无不感到诧异。左宗棠在慈安死后的当晚进宫，当他听到这个消息时，立刻嚷道：“我今天还见到太后上朝，说话和平时一样清朗。太后去世肯定不正常！”
他怒气冲冲地在庭院里来回顿足，无所顾忌地发表意见，如果换了别人这样做，恐怕脑袋就会在另一次日落之前搬家了。恭亲王费了很大力气才让他安静下来，可是早有太监将他的话报告了慈禧。如果说慈禧曾经对左宗棠有过偏爱，此后就不会如此了。没过几个月，左宗棠就被派到了地方上。他与北京的宫廷生活太不合拍了。
1881年10月，左宗棠被任命为两江总督，这个职位在所有的总督当中有许多方面是最令人垂涎的。可是左宗棠没有寻求职位。他老了，虚弱多病，他想退休回老家，在那里平静地度过晚年。然而他的威望太高，为了尽责，他不得不坚持到底。
在上任之前，他回了一趟湖南的老家。短暂停留之后，他继续前往南京，于1882年2月10日抵达。上一年长江下游地区发生了洪灾，当时百姓生活仍然很苦。左宗棠立即在淮河启动大规模的水利建设。他巡视了受灾地区，然后继续向下游走到长江口，视察河上的防御措施。视察途中，他到了上海，受到了外国移民的盛大欢迎，他们鸣炮13响向他致敬。他在一封信中说，这是外国人首次向一名中国官员鸣炮致敬。这一点他肯定是弄错了，但既然他对此深信不疑，也就说明外国人鸣炮向中国官员致敬并不常见，至少在上海是如此。
到1882年年底，左宗棠已经非常疲惫，身体出了不少毛病，加上左眼完全失明，右眼也不好使了，他请求引退，理由是他无力妥善处理繁重的公务。他说，他的记忆力衰退了，往往刚读完一份信函或文件，马上就忘了内容。他被赏假3个月，可以不去衙门，但必须留在南京。1883年秋季，他应召去处理山东南部将要发生的暴动。镇压暴动是他的特长，他很快就控制了局面。1884年1月，他已衰弱到无法站立，但他仍然亲自视察辖区内的整个运河段。
中法关系因为安南问题而变得紧张，北京和各省衙门都在大谈战争。针对边境防御问题，左宗棠在一份奏章中对所有事务做了简明的总结，他再次请求解职回家。朝廷赏假4个月，但假未休完，又奉命进京。他于1884年6月13日抵达京城，受命负责全国的所有军事。
尽管没有宣战，法国的敌对活动正大大加紧。他们袭击福建海岸，封锁了台湾。孤拔指挥的舰队在和平伪装下通过了闽江口的炮台，在福州下锚，于1884年8月23日向中国人开火，摧毁了江上的战船和马尾船厂，攻占了后方的炮台，并将之捣毁。朝廷现在指望着左宗棠，不顾他年迈多病，任命他为福建的钦差大臣。如果他年轻10岁，他指定会让法国人付出沉重的代价，可是在他生命的沙漏里，沙粒已经快漏光了。
左宗棠于1884年9月15日离开北京，于12月14日抵达福州。只差一天，就是他20年前第一次进入福建追歼最后一批太平军的日子。左宗棠离京以后，主和派占了上风，他在与法国的这场战争中不可能有很大的作为。他的天性中没有屈服，他宁愿抓住硬战的机会，也不愿不战而放弃。法国对台湾施加极大的压力，左宗棠冲破封锁，成功地派出大批部队增援岛上的中国军队。中法和谈在春季恢复，李鸿章于6月份签署了条约。
条约签订之后，左宗棠奉命返回京城。根据他在最后这几年频繁调动的情况，可以大胆地推测，慈禧没有忘记他对慈安猝死一事所爆发的怒火。他请求朝廷批准他在返京途中回家探亲。请求得到了批准，但他未能起程。1885年9月5日，左宗棠病死在福州前线。他在临终口授的遗折中写道：“此次中法一战，是反映中国强弱的一大关键，臣督师南下，还没能痛杀法国侵略者，扬我国威，遗恨平生，不能瞑目。”这悲壮的遗言，表现出左宗棠强烈的爱国主义思想光芒。