左宗棠在积极筹办西征军饷粮运时，就已经开始积极筹划向新疆进军事宜。
光绪元年（1875）夏，左宗棠在兰州陕甘总督署内，召集有老湘军分统以上将领参加的军事会议，商讨复疆战略与进军办法。在这次军事会议上，将领们研究并赞同左宗棠制定的“先北后南，缓进急战”的战略方针与军事部署。
乌鲁木齐是左宗棠确定的西征军入疆第一战役的主要目标。左宗棠认为，首攻乌鲁木齐，必先攻占古牧地，撤乌垣、红庙之藩篱，才可成捣穴犁巢之举。他从“会师进剿必先据要地，为储粮屯师之所，然后左右伸缩，可以有为”的思想出发，称赞刘锦棠将西征军前沿指挥所由古城迁至阜康，“一为进攻古牧地，一为遏贼奔冲，实非无见”。同时，他在批准刘锦棠的专注古牧地的敌人时说：“兵事无遥制之理，缓急之宜，分合之用，惟该总统相机酌之。”让刘锦棠在执行计划时发挥自己的积极性和创造性。
刘锦棠是一位能战善谋的前线指挥员。由阜康至古牧地有两条路，如果走大路，沿路一片沙砾、饮水困难。此外，还有一条小路可通。但是，他一边派15支步兵队排列甘泉堡，“故掘眢井，示行人路以懈贼”，一边以重兵潜师急进，于8月10日夜袭黄田，一举成功。随即率人围攻古牧地，经过几天激战，于8月17日，清军借助开花大炮的威力，轰开古牧地的城墙，全歼守敌6000人。
古牧地是乌鲁术齐外围的重要据点。刘锦棠率队攻取古牧地时，左宗棠就认为，此关一开，乌垣、红席子贼不能稳抗，白彦虎必窜往吐鲁番以寻去路。事情的发展正如左宗棠所料。当古牧地阳乌鲁木齐告急求援时，驻守乌鲁木齐的马人得和白彦虎就回信说：“乌城精壮已悉数遣来，现在三城防守乏人，南疆之兵不能速至，尔等可守则守，否则退回乌城，并力固守亦可。”其实，他们已经商议：以官军锐不可当，莫如先遣妇女辎重南窜，留精壮驻守，再候消息。因此，当刘锦棠得知乌鲁木齐空虚，于8月18日径抵乌鲁木齐时，马人得和白彦虎并未驻守，而是率1000余人出城，向南“相率逃奔”了。刘锦棠一举收复了乌鲁木齐。金顺乘势于8月19日进占昌吉，22日进占呼图壁。与此同时，伊犁将军荣全派队率民团孔才和徐学功等部于8月19日收复玛纳斯北城。
西征军从8月9日由阜康发动进攻以来，在8月17日收复古牧地后，到22日只有短短的6天时间，收复了除玛纳斯南城以外的阿古柏侵占了6年之久的乌鲁木齐地区，胜利地实现了首攻乌鲁木齐的战略目标。
至于玛纳斯南城，金顺会同孔才、徐学功等，从9月2日攻城以来，又经刘锦棠派湘军营务处道员罗长祜率队前往，荣全亦带队前来，最后，历时两个多月，死伤800余人，于11月6日攻入城内。至此，阿古柏在北疆的全部据点被一一攻破。
整个北疆之战后不足3个月，完全达到了左宗棠所要求的速战速决。北疆的收复，使西征军巩固了在新疆的战略主动地位，不仅解除了敌军窜犯内地的后顾之忧，更为以后进军南疆创造了有利条件。
按原先的计划，首攻乌鲁木齐后，是由北向南，乘胜收复阿古柏侵占的天山南路。
1876年9月20日，清廷上谕也说：“现在乌鲁木齐既克，即须规复吐鲁番城，扼贼咽喉，则南路各城不难次第戡定。”
但是，在清廷内部，停兵不进的议论仍然存在。赞助西征的文祥，就曾主张收复乌鲁木齐后，赶紧收束，乘得胜之威，将南八城及北路之地，酌量分封众建而少其力。以乌垣为重镇，居中控制，南钤回部，北抚蒙古，以备御英、俄，实为边疆久远之计。
左宗棠在给刘典的信中就说：“都人议论，总以停兵不进为是，盖不知数城已克也。现在又如何打主意，尚未可知。”左宗棠主张与此相反，但为了减少阻力，避免麻烦，对此采取任他千万变相，老僧只有不睹不闻一法待之的态度，按照自己早已提出的既定方针和清政府上谕，于11月2日向清政府提出了“搜剿窜贼，布置后路，进规南路”的奏折，将搜剿窜贼与进规南路紧密结合起来，目的是进规南路。清廷既然已经全权赋予左宗棠班里新疆收复事宜，说三道四或干预指挥也觉不妥，便不再有异议了。
当时阿古柏在南疆惶惶不可终日，一面求英国出面帮助“请降”，企图使清政府承认其政权为“属国”，一面在暗中加紧部署防御。他以重兵防守达坂、吐鲁番、托史逊三城，企图抵御清车由乌鲁木齐对吐鲁番方向的进攻。
11月，左宗棠根据上述敌情，提出了一个三路并进，打开南疆门户的作战方案。他的具体部署是：刘锦棠部由乌鲁木齐南下，进攻达坂城，为北路；张曜部由哈密西进，为东路；徐占彪部出木垒河，翻越天山南下，为东北路。张、徐二部在盐池会师，然后向七克腾木、辟展、吐鲁番和托克逊发起进攻。
1876年冬，左宗棠为大军进攻南疆加紧调运粮食，补充兵力，调整部署，巩固后方。他给徐占彪、张曜二部各加拨马队一营，给刘锦棠部加拨马队三营，又给张曜、刘锦棠二部配置了炮队，使西征军的机动能力和攻坚能力进一步得到提高。
1877年初春，由于阿古柏匪帮的骚扰，巴里坤全古城运道一度中断二十多天，促使左宗棠对后路警戒兵力也进行了调整。他奏凋驻防包头的记名提督金运昌所部淮军十营分屯古城至乌鲁木齐一线要隘，同时从甘肃安西等地抽调徐万福等五营进驻巴里坤，并以新授哈密办事大臣明春所部四营出驻哈密，确保了西征运输线的畅通无阻。
1877年4月，南疆作战条件基本成熟，西征军各部开始行动。左宗棠决定进规南路由刘锦棠“一手经理”。
左宗棠督率西征军进规南路时，一再告诫各军要区分敌我，严格执行战抚政策。
左宗棠“缓进急战”等一系列的政策措施，为西征军进规南路提供了胜利的保证。
1877年4月14日，刘锦棠率马步从乌鲁木齐出发，日夜兼程，于17日径抵达坂城，立即将城包围，用枪炮猛击猛轰，击败阿古柏从托克逊派来的援兵，迫使城内敌人在“盼援不到，官军锁围日逼，群议突围而走”的情况下，缴械投降。西征军用两天的时间，于20日攻占了阿古柏重点设防的达坂城，缴获不少马匹枪炮，生擒大总管爱伊德尔呼里等1200余人。刘锦棠将阿古柏从南疆胁迫而来的维吾尔族、回族和蒙古族各族群众1000余名，“均给以衣粮，纵令各归原部，候官军前进，或为内应，或导引各酋自拔来归”。他们“在丧胆之余，怀不杀之德，皆惊喜过望，踊跃欢呼而去”。大总管爱伊德尔呼里及其以下大小头目100余人，愿遣人报知帕夏，缚送逃回的白彦虎，“表归顺之诚，缴回南八城地方，再求恩宥”。刘锦棠准其所请，并根据他们“坚称情愿留军中候帕夏回音”，将其“暂行羁押”。
对此，俄国人也称赞刘锦棠此举很明智，“非常仁慈地对待了那些为数达1000人的哲德沙尔居民，给他们发了路费和通行证，然后释放了他们”。但是，随后在托克逊，阿古柏让海古拉“杀害了这些人的大部分，其余的逃脱出来回到了中国人那里”。这一放一杀和一逃一回，不仅反映了西征军和阿古柏对群众的不同态度，而且也表明新疆维、回各族群众对阿古柏和西征军的不同态度。事后，左宗棠称赞刘锦棠“暂留不杀，以观其变，所见甚是”，表明刘锦棠出色地执行其战抚结合政策，符合自己的要求。
按照左宗棠三道并进吐鲁番的计划，在刘锦棠从乌鲁木齐率军攻取达坂城时，蜀军徐占彪已由穆家地沟西南入山排搜，与嵩武军分统孙金彪会师盐池，于4月21日进攻吐鲁番东面的门户七克腾木，次日乘胜进攻辟展。
孙金彪从连木沁攻占阿古柏新筑的胜金台后，于26日与从鲁克沁来的徐占彪在哈拉和卓城东会师，然后分两路齐抵吐鲁番。此前不久，刘锦棠于25日在白杨河分师，派罗长祜率领六营马队已从北路驰抵城下。罗长祜于4月26日乃与张曜、徐占彪两军会师，形成三军合击之势，使敌“骇愕不知所为”，西征军乘势斩杀，败贼向西路狂奔，艾克木汗早已潜逃，伪官马人得开门乞降，本地维吾尔族、回族群众万余跪地乞命，罗长祜“逐加抚慰，令各复业”，吐鲁番全境收复。
阿古柏凭借达坂城、托克逊、吐鲁番抗拒官军，“自谓设险重叠，有恃无恐”。结果是：“达坂为官军所破，一人一骑不返。官军乘胜进攻托克逊，风声一播。海古拉即弃托克逊踉跄而逃，曾不停趾”。吐鲁番的艾克木汗先期逃走后，马人得“诣军前乞降”，一周连下阿古柏重点设防的三座坚城。其来势之猛，速度之快，打击之重，影响之大，左宗棠说是“西域用兵未有之事”。他在分析这次连克三城，特别是刘、张、徐三军会克吐鲁番时说：“以战事言，似未若达坂、托克逊之神奇，而破敌之果，赴机之速，实微臣始愿所不及也。非将士踊跃用命，其效不能臻此。”
西征军连克三城的胜利，粉碎了阿古柏的防线，沟通了天山南北两路，打开了由吐鲁番进军南八城的大门，促使本来就各怀鬼胎、同床异梦的阿古柏侵略集团更加分崩离析，更加使阿古柏无法改变泰山压顶之势形成的败局。
1877年5月29日，阿古柏在朝不保夕、四面楚歌时思潮起伏，百感交集，收到了由272个上层人物签名给西征军求和的信，立刻愤怒激动起来。动手打了身边的录事，又在与金库萨比尔的殴斗中晕了过去。随后在自己屋里饮了尼牙斯、艾克木汗让人放有毒药的茶后，不久，他便心中绞痛，当夜就死了。
左宗棠根据刘锦棠和张曜的报告，在上总理衙门书中说：“帕夏闻达坂、托克逊之报，忧泣不已，于四月中仰药而死。”
阿古柏死后，阿古柏侵略集团公开分裂，为争权保命相互厮杀起来。贝尔斯说：“几周之内，形势如同1864年一样，一团糟。”阿古柏次子海古拉“随帕夏带兵，专与英人交结，为帕夏所爱，人呼为小帕夏也”。阿古柏有让其继承王位之意。阿古柏死时，海古拉从喀喇沙尔赶到库尔勒，先是封锁死讯，秘而不发，继是让布素鲁克侄子艾克木汗留守库尔勒，暂时代理他的工作，自己借护送阿古柏尸体西窜喀什噶尔，“目的是自立为王”。可是，海古拉离开库尔勒的次日，艾克木汗不仅在库尔勒宣布自己为汗，派500名骑兵兼程阿克苏，欲抢先争夺阿古柏阿克苏行宫的遗产。海古拉途经库车等地时，遭到当地维吾尔族人民的痛击，队伍已不成形。
海古拉以运送阿古柏的尸体为名，一是欲在喀什噶尔宣布继承父亲的伯克王位，二是占据父亲在那里的财产。这番心思立即被其兄伯克胡里看破，促使他速下杀心。
伯克胡里是阿古柏长子，虽不受阿古柏喜爱，却受到富商的同情，且拥有喀什噶尔地区，不仅有实力，“常与俄人通”，“昏骇成性，凶悖殊常”。在距离喀什噶尔90多里的阿图什大桥旁，海古拉便人头落地，其美梦顿成一枕黄粱，也使骚人墨客多了一次感叹的史实：“本是同根生，相煎何太急？”
出尔反尔的和田尼牙斯，见阿古柏大势已去，早派人与清军联络，表示愿意反戈，不受伯克胡里的指挥调动，为自己寻找后路。