左宗棠于1868年11月26日抵达西安，立即着手为平定陕西所做的军事准备。这时该省的局势大致如下：整个陕北，除了几座围城，都在回民军和无名反政府武装的手中，那些武装由几名首领指挥，号称超过10万之众。在甘肃东部以及向东直到凤翔、邠州和鄜州，有超过20万人的回民部队。陕北的清军驻防部队仍然据守着宜川、鄜州、延安和榆林。榆林位于将陕西和蒙古分隔的长城边，由满人将领金顺驻守，此人后来在左宗棠手下赢得了很大的声望。渭河流域在左宗棠直接指挥之下的部队总计70营，他还有50个营在刘松山指挥下在山西（原著为“陕西”，似应为“山西”。——译注）集结。他的兵力总计约有6万人。
左宗棠的作战方案是：派出劲旅增援宝鸡、凤翔、汧阳、陇州和乾州的驻军，使他们能够阻止回民军沿渭河进入陕西中部，而他就能使用主力肃清陕北。他对陕北的计划是派4路大军挺进这个地区。张曜率领刘松山大军的一支部队从保德渡过黄河，沿长城向西南突进，以减轻金顺在榆林的压力，然后继续奔向西南。刘松山在汾州以西渡过黄河，攻占绥德，在横跨陕北的贸易大道上向西挺进。郭运昌从同州北进，通过宜川，抵达延长，然后向西越过延安。第4路由3名将领统领，在宜君集结，向北推进，穿过鄜州，挺进甘泉，其中一支从鄜州转头西进，另一支部队驻守甘泉，第3支部队从甘泉西进。
左宗棠经常遭到同时代人的指责，那些人多数在北京，说他拖沓疲软，行动迟缓。就连拜伦·冯·利希霍芬也于1872年在西安写道：根据一般报道，左宗棠直到那时的作战明显的效率太低，行动迟缓，缺乏活力。［1］
左宗棠在11月份的最后几天里抵达西安，刘松山于1869年1月16日在汾州以西渡过黄河，向绥德进发。张曜大约同时从保德渡河，向榆林突进。南边两路的出发日期没有记载，但从惯例来看，显然4路人马都在1月15日前后几天踏上了征途。很明显，任何一位将军，能够从他抵达前线的7周内，从相距如此遥远的几个地点发出4路兵马，肯定是不缺乏活力的，何况行军的地形非常不利，而当时中国西部的交通状况又是那么糟糕。
集结在绥德的造反军被刘松山击败，损失了6000人。他们放弃绥德，向西逃窜。刘松山紧追不舍，重创逃敌。他们在镇靖堡停下来，刘松山已经逼到跟前，他们提出投降。这支武装的主要首领是一名姓董的回民，他是造反首领董福祥的父亲。刘松山赦免了所有的降军，镇靖堡于1869年1月30日归顺朝廷。
与此同时，张曜把反军从榆林赶走，继续前进，与刘松山这一路会合。他们推进到定边，这里的反军，包括董福祥，也效法镇靖堡投降。《年谱》作者说，10万反军于2月5日寻求并得到了刘松山的赦免。董福祥进入了帝国军队，为官方的老板们提供出色的军事服务，后来于1900年指挥义和团攻打各国公使馆而声名大噪。
刘松山取得了一场大捷，但未免华而不实。许多投降的反军很快又在阻塞他的交通线，或者向南游动，对抗左宗棠的另两路兵力。刘松山留下一支部队驻守定边，自率主力返回靖边。他从靖边东进安定。这是一个居中的地方，刘松山在这里肃清陕北，并与北上的部队协同作战。最艰巨的任务似乎落到了郭运昌这一路头上。
在地质学上的遥远过去，陕北和甘肃就是一个山区，表面覆盖着深达几百英尺的黄土沉积。这种沉积的特点之一就是具有腐蚀性。它的特征是垂直开裂，黄土覆盖地区的每一条溪水和沟渠都面对着一堵垂直的黄土墙，往往高达200英尺。在河流与较大的溪水两侧，土墙有一定的坡度，形成一系列表面垂直的阶梯。原有的山脊和山峰被风化剥落了黄土。结果是，道路跟随山脊或山谷起伏，山脊很少，山谷众多。山谷的道路离开大溪流之后，就会沿着沟渠延伸，通常只有几码的宽度，接连几英里两面都是峭壁耸立，高达数百英尺。
对于游击战而言，这是理想的地形；对外来的攻击部队而言，由于官兵都不熟悉这里独特的地形地貌，就会感到非常吃力。离开了大溪流的宽敞峡谷，夜行军会格外困难，哪怕没有敌军存在。郭运昌的行军路线往往跟山谷之路和峡谷之路成直角，而且地势太低，无法走上为数不多的山脊，行军速度自然非常缓慢。从宜川出发的第4路兵力较为幸运，北上的道路直到甘泉为止都是从西安向榆林铺修的大马路，已经使用过3000年以上。
在这4路兵力分头扫荡前进之前，敌对武装在经过多次作战之后，被迫撤出陕西，进入甘肃。这次战役在1869年5月15日达到高潮，从甘泉开出的魏光焘部在保安包围了几千名敌军，将之全部歼灭。到6月1日为止，陕西稍具规模的敌对武装已被全部肃清。
然而，在左军肃清陕西的时候，左宗棠被许多麻烦所困扰。他于3月22日在陕西乾州建立大营。3月25日，刘松山的老湘军发生了严重的兵变。兵变的部队驻扎在绥德境内的交通线上。据说这些部队分别部署在道路旁，受到许多回民间谍（似应为哥老会成员。——译注）的煽动。他们对官兵说：“你们从家乡不远万里来到这里，吃了不少苦头，越往西去，困难更大。”此事影响到清涧的部队，这里的变兵杀死了将领高连升。刘松山从安定飞速赶到兵变现场，采取断然措施，很快恢复了秩序。
然而，这边的事情还没搞定，消息就传到了北京，事实被大大夸张。按照报告人的说法，左宗棠的整个部队都兵变了，或者处在兵变的边缘。一位御史上奏皇帝说，不能指望南方的部队用于西北，他们都会开小差，应该招募北方的士兵来打这场战争。
曾国藩立刻插手了这件事。他对左宗棠并不友好，但刘松山是他的爱将，他极力为刘松山辩护。他还反击了所有对湖南人的指责。他向皇帝保证：这不是一个严重的事件。左宗棠奉命写一份完整的报告，这时他已可以报告一切都已处置妥当。他处死了77名哗变首领，把少数军心不稳的部队分解开来，将士兵编入忠实的部队。不过，这给左宗棠的众多敌人提供了一个机会，他们总是忘不了这个事件。
高连升的死令左宗棠大为伤感。一天夜里，天将拂晓，他在大营里撰写一篇悼念高连升的文章。一只小鸟飞进屋里，栖息在他附近的地方。一名传令兵抓住小鸟，拿到户外放走。几分钟后小鸟又飞了回来。传令兵又将它抓到户外，小鸟的喙咬住传令兵的手不放，似乎不肯离去。此事令左宗棠感慨不已，他在写给朋友的信中说，他觉得那是高连升的灵魂来看望他。［2］
户部的麻烦很快也来了。左宗棠120营部队的开销，每年需要460万两银子。其中有150万两，或者说大约1/3，要归在“运输”项下。这些资金按照户部的指令由若干省份提供，如果任何一个省份延缓了供支或者干脆不予提供，左宗棠也无计可施。他的权力不能超出陕西和甘肃。为了解决这个难题，他要求任命一位钦差大臣驻扎西安，打理银钱事务。朝廷把袁保恒派到西安，负责接收所有资金，并且监督陕西的开支，但不管甘肃。左宗棠负责监督甘肃的开销。钦差大臣是帝国的最高官职，但他的管辖权只限于任命书中指定的职责范围。袁保恒的情况跟民事和军事行政毫无关联，他只是一名财政代理人。不过，他的话代表皇帝至高无上的权威，如果他要求一名省级官员解释为什么没有为陕甘军队提供指定的金额，那就是一件很严重的事情。无视一名总督的要求无关紧要，但面对钦差大臣就完全是另一码事了。
回民军被赶出陕西之后，左宗棠准备向甘肃推进。1869年6月28日，他把大营移扎甘肃边界的泾州。他准备大干一场，扫平回民大堡垒。他把金积堡中心放在首位，决定集中兵力击败那一地区的回民军。他不知道马化龙是何许人物，但他断定此人就是甘肃回民的首领，于是决定从这里下手。
马化龙很快就发现他面临的对手在能力上与杨岳斌和穆图善不可同日而语。左宗棠打算分3路向甘肃进兵，一路溯渭河而上，一路沿着西安－泾州－平凉－静宁－安定－兰州的老官道进军，另一路从陕北开往金积堡。北路的兵力最强，是第一阶段战役的主力。
左军驻守着甘肃东部的秦州、灵台、泾州、平凉、庆阳、宁州、正宁与合水，而在陕西西部和北部的所有城市都有重兵驻守。左军有3条交通线，南路的交通线是从西安沿渭河向西；中路的交通线是从西安起始的官道；北路的交通线起自山西的汾州，通过绥德，直达靖边。《年谱》没有记载左宗棠投入甘肃野战的部队有多少人，但因他要留下大量部队驻防，还要维护已经延长的交通线，他的兵力肯定已大大减少。他能用于前线作战的部队，很可能不多于3.5万人。
这个作战方案实际执行的总体部署如下：［3］
一、刘松山沿长城之路推进到灵州和金积堡。张曜和金顺率领一支骑兵沿黄河东岸直奔磴口，渡过黄河，在宁夏以南作战。
二、中路部队又分为两路：魏光焘西进庆阳，刘端冕分兵驻扎合水，雷正绾与黄鼎在平凉作战，向固原推进。
三、秦州的吴士迈阻止回民军顺渭河而下进入陕西。
四、马德顺留驻灵台作为后备队，策应南北两路。
五、左宗棠把甘肃清军分派几营前往甘肃东南部秦岭以南的徽县，防止回民军翻越山岭进入渭河河谷。
整个夏天在战役准备中度过。在这个时期，各路兵力进展迟缓，很可能是因为夏季的雨水令甘肃东部的道路几乎无法通过。刘松山肩负最艰巨的任务，战役要从他那里打响。他于1869年9月2日抵达花马池。9月6日，他开始进攻，于第二天在花马池以西击败一支回民军。由于很难理解的原因，他放过了灵州，于9月12日占领吴忠。马化龙造成金积堡附近地区被洪水淹没的局面，派出回民部队截断刘松山与陕西的交通线。将近1个月时间，刘松山陷在吴忠，行动不便。马化龙似乎在运用智力对左宗棠和刘松山施压。他有朋友帮他说话，连北京都有，说他不是造反派。他让归化的鞑靼将军向皇帝上奏指责刘松山。对刘松山的指控是：屠杀居民，杀降，逼迫爱好和平的回民运动。甘肃巡抚穆图善向皇帝报告：
……忽接马朝清（即马化龙。——译注）函开，提督刘松山带领大兵突抵吴忠堡，率行抢杀，有不分良莠之意，难免已降回民猜疑，聚众滋事，邀请胡昌会仍回金积堡商办等语。胡昌会正拟前往，又闻陕甘回众已麕集金积堡，有与大兵接仗之事，尚不知大局如何，呈请核办前来。
臣查左宗棠派刘松山一军由北进逼，原系追击董志原窜贼，免致蔓延为害。该署总兵胡昌会所请各该头目俱愿投诚，固难保非势穷乞降，藉缓我师，惟查灵州回绅马朝清即马化龙本系营弁，自宁夏郡城失陷，被逆回马兆沅遏胁，致灵州复行变乱，其时尚知约束金积堡回民，不许出外滋事，事先向雷正绾、曹克忠两营求抚，交银交粮后，曹克忠带兵进扎滚泉，该绅恐回众疑惧，上禀谏阻。曹克忠等不从，致陕回拼死抗拒，大挫兵威。而马朝清仍劝谕本堡回民安静待抚，并设计将马兆沅杀毙。迨臣奉旨督办军务，该绅复具禀乞诚。初次捐修渠工银八千两，米十五万斤，并呈缴器械马匹多件。嗣该绅安辑地方，保卫汉民，劝导回众投诚，擒斩叛乱陕匪，曾蒙恩赏加提督衔，是马朝清之深明大义，矢志靡他，证之前事，已可概见。今官兵行抵吴忠堡，如果率行抢杀，则金积堡与灵州均唇亡齿寒，自不免群生惶惑，铤而走险，势所必致。
臣不敢谓宁堡已降之回皆良民也，但无事之日，善者相安，恶者自隐受其制，若兵自外来，事起仓促，居民不知其意之所在，善者固不免惊疑，恶者亦必图一逞以自快，彼时各头目如马朝清等虽可信其立志坚定，而教下人多情急变生，必致理喻势禁，两为束手，即能大获全胜，而已上干天地之和。若官军稍有不利，回氛四起，东路未定之盐、固，西路已抚之肃州，皆成变局。
……左宗棠剿而后抚，亦未必能坚固回民之信。臣虽将交卸，不敢知而不言，除飞饬胡昌会督同马朝清仍行妥为开导弹压本地回众，毋得妄起猜疑，并确探北路进兵情形，另行奏报外，为此附片密陈。
这些奏折牵涉到左宗棠，他奉命对刘松山的行为进行调查，并做出详细的报告。当左宗棠看到这些对自己策略的攻击时，大为气愤。他没有进行什么调查，他心里完全明白那是怎么一回事。他对马化龙的评价是：此人是帝国最危险的人物，是这次运动的首领，他掠夺汉人的妇女和财产，关在金积堡，把那些女人分配给自己的信徒，而男性汉人则被迫成为回民的苦力。他还说，在宁夏和金积堡的方圆几百里内，几乎找不到一个自由的汉人，几个月来马化龙一直在加固金积堡，收集武器和弹药。