（一）整治北平
徐达率部攻克元都后，在遣使赴京告捷的同时，又积极采取措施，加强以大都为中心的新占领区的军事布防，设法巩固和扩大北伐战争的成果。
洪武元年八月初三，即进驻北平城后的第二天，徐达就令右丞薛显，参政傅友德等率精锐骑兵前往大都北边的古北等隘口巡逻，阻止塞外元朝残兵南下入侵，也谨防内地元残兵北逃，泄露军事机密。这些措施加强了对北平的管理力度，明显稳定了北平的社会秩序，使人民的生活环境得到了很大的改善。
八月十五日，明太祖因元朝都城已被攻克，命令大将军徐达、副将军常遇春率军攻取山西，同时诏命以御史大夫汤和为偏将军，与平章杨璟一道随从大将军徐达征讨山西，又令徐达留兵三万，设置燕山等六卫，以防守北平。徐达奉诏后，下令改乐安卫为燕山左卫、济宁卫为燕山右卫、飞雄卫为大兴左卫、淮安卫为大兴右卫、清州卫为永清左卫、徐州五所为永清右卫，并遵照明太祖的吩咐，命都督副使孙兴祖等率六卫将士驻守北平。同时，为了加强北平城防，徐达下令丈量元皇城，加固城墙，还特意将北平的“安贞门”改为“安定门”，“建德门”改称“德胜门”，借此希望北平社会安定，人民幸福。
（二）平定山西
洪武元年八月二十日，徐达遵明太祖之命，派右丞薛显、参政傅友德等率兵袭击山西大同，骚扰敌军后方。同时调兵遣将，分别由北平、河南两路出兵，计划从晋东、晋南同时进逼元朝大将、实权派人物扩廓帖木儿（汉名王保保）的巢穴 山西太原。原来自徐达率部进占河南后，山西太原就成了王保保的活动据点。王保保自元末义军兴起之时，就手握军权，拥兵自重，并逐渐形成了半独立的地方武装势力。虽然此前徐达在率部攻克元大都后，曾派遣使者去劝降过王保保，但由于王保保在元顺帝北逃后，奉有收复北平之命，更重要的是当时的王保保还手握重兵，他本人也是身经百战、威名远扬的一代名将，所以他对徐达的招降不予理睬。
为了扫清进军山西的障碍，确保后方无虞，徐达在当年九月派副将军常遇春、参政傅友德等率兵离开北平，陆续攻占了保定、中山府（今河北定州市）、真定（今河北正定县）等河北诸州县及距太原仅二百余里的平定州（今山西平定县），荡平了由北平通往山西的元朝残余势力。而在北路进军线路得到疏通的同时，洪武元年八月二十六日，明太祖诏令右副将军冯宗异率兵协助大将军徐达进取山西，徐达因此如虎添翼，利用冯宗异及前不久奉明太祖之命出征山西的汤和、杨璟所率将士，由河南自南向北进攻，开辟进攻山西的第二战场。南路军一路北上，连续攻占了武陟（今河南武陟县）、怀庆（今河南沁阳市）、泽州（今山西晋城市），并于同年十月夺取了距太原约四百里的晋南重镇潞州（今山西长治市），从而使得两路大军得以相互呼应，对山西形成了钳形攻势。
洪武元年十一月初三，徐达亲率右丞薛显等，统兵自北平进攻山西。十日，徐达统兵由保定进驻真定，与副将军常遇春会师于柳亭。这时，徐达得知元将王保保已奉元顺帝之命，率兵自太原出雁门关，准备取道保安州（今河北张家口市东南），经居庸关进攻北平。徐达认为驻守北平的都督副使孙兴祖及燕山六卫将士足以抵御进犯之敌，自己不但无需回援北平，而且可以乘虚捣毁王保保的巢穴，进占山西。于是，他对部下将领说：“王保保率师远出，太原必虚。北平孙都督（指孙兴祖）总六卫之师，足以镇御。我与尔等乘其不备，直抵太原，倾其巢穴，则彼进不得战，退无所依，此兵法所谓‘批亢捣虚’也。若彼还军救太原，则已为我牵制。进退失利，必成擒矣。”众将认为徐达分析得很有道理，一致赞成他的计策，从而加快了进军太原的步伐。
洪武元年十一月二十七日，徐达等率师经平定州，克寿阳县，抵达太原附近。随后，他暗中派人持信前往潞州，督促右副将军冯宗异率部严师以进，配合北平之师夹击太原。
王保保行至保安州，听说徐达亲统大军进逼太原，唯恐巢穴失守后，自己进退无依，所以立即回师迎战，来势十分凶猛。见敌人来势汹汹，副将军常遇春向徐达献计说：“我们骑兵虽多，但步兵还没赶到，还不能和他们开战。不如派精兵夜袭他们的营地，那时王保保的将士必然混乱，就可使其主将束手就擒。”徐达觉得他的建议很好，表示赞同。恰在其时，王保保手下部将派人前来约降，并请充当内应。于是，徐达当机立断，不待右副将军冯宗异兵至，在十一月二十九日夜袭了王保保营地。当时，王保保正借着烛光在营帐中看书，突然发觉部众一片混乱，心知大事不妙，仓促之间不知所措，慌忙中连靴子都来不及穿好，竟然光着一只脚，从营帐后面溜了出去，骑上一匹没有鞍辔的战马，仅带着十八名随从狼狈出逃。次日黎明，太原内应王保保部将率太原城将校出降，太原告克。此役，共俘虏元军将士四万余人、马四万余匹。
由于攻占太原比预期的顺利很多，所以在太原告克至冯宗异奉命率部至太原与徐达大军会师前的这段时间里，大将军徐达与右副将军冯宗异分别出兵攻占了晋中、晋南众多州县。洪武二年正月初五，右副将军冯宗异、偏将军汤和等率部抵达太原，与徐达所率北平之师正式会师。随后，徐达对各部兵力进行综合调配，统一部署。十九日，副将军常遇春奉徐达命自太原率兵攻取晋北军事重镇大同。二十一日，参政傅友德又奉命率兵屯守晋北另一军事重镇朔州。
（三）平庆阳之乱，荡关陇残敌
山西全境告克后，徐达又马不停蹄地挥师西渡黄河，扫荡盘踞在关西的元朝残部和当地地主武装。洪武二年二月二十九日，大将军徐达统率大军自平阳（今山西临汾市）进驻河中府（今山西永济市西南），命随从副将军常遇春、右副将军冯宗异率先西渡黄河，进军陕西。三月初一，徐达亲率大军自河中渡过黄河。三月初六，大军渡过渭水，进至咸宁（今陕西西安市）近郊，元陕西守将出逃。次日，徐达整兵入城，所率将士秋毫无犯，受到了三秦大地人民的热烈欢迎。当天，徐达下令改奉元为西安。接着，徐达派兵攻占凤翔，通过陇州（今陕西陇县）直抵秦州（今甘肃天水市）。四月初十，徐达率兵夺取宁远（今甘肃武山县），次日，进军至巩昌（今甘肃陇西县），元守将相继来降，徐达均以礼待之，当日，派遣右副将军冯宗异率部西征临洮，都督副使顾时、参政副使戴德率部进攻兰州。十三日，冯宗异兵至临洮，元大将李思齐不战而降。同日，都督副使顾时等也攻克兰州。
徐达在降伏了李思齐并占领了西北军事重镇兰州后，决定挥师东进，消灭长期盘踞在西北地区的另一支实力较强的元朝残余势力，那就是庆阳张思道兄弟。进攻庆阳途中，徐达率部过关斩将，攻城略地，势如破竹。而驻守庆阳的张思道在获悉明朝征西大军平定临洮的消息后，内心已经恐慌。待到徐达所遣使者来到庆阳，王保保在西安州大败的消息传开后，张思道更加惧怕。他不敢与徐达临阵对敌，但又不甘心俯首就擒，于是此后不久，便留其弟弟张良臣与平章姚晖率兵驻守庆阳，自己带着一些轻骑逃往宁夏，结果在宁夏被王保保监禁。张良臣为人狡诈，而且骁勇善战。但是他在奉命留守庆阳后不久，就陷入了徐达西征大军的包围之中，处境十分被动。当王保保关押哥哥张思道的消息传来，又使得张良臣对北元朝廷极为不满，而且倍感孤立。就在这时，徐达派去招降的人来见张良臣。张良臣乘此机会于五月初八向徐达投降。
由于此前明太祖朱元璋曾提醒过大将军徐达要提防张思道、张良臣兄弟使诈，所以当张良臣遣使请降时，徐达表面上坦然接受了他的投降，内心却并没有放松对张良臣的戒备。为此，当张良臣的使者返回庆阳复命时，徐达特意派遣右丞薛显率骑兵五千、步卒六千随同前往庆阳，这样做，正是为了尽快接手庆阳防务，以免张良臣出尔反尔。
果然不出徐达所料，张良臣投降实为情势所逼，并非出自真心。所以当他得知徐达派遣一万多名官兵前来庆阳的消息后，立刻疑心大起。五月十五日，薛显等抵达庆阳。张良臣亲自率众出城，匍匐道旁相迎，并且进献牛肉、美酒，装出一副卑躬屈膝、诚心归顺的样子，以此欺骗薛显，使他们放松警惕。当天晚上，张良臣就发动叛乱，出兵袭击薛显军营。薛显等毫无防备，在叛军的猛烈冲击下很快便溃不成军，指挥张焕被叛军俘虏，薛显负伤逃回徐达军中，所率一万多名官兵损失殆尽。
虽然庆阳之叛有些突然，但徐达闻讯后，并没有惊慌。他一面安抚薛显，一面召集诸将商量对策，并胸有成竹地对诸将说：“张良臣的叛乱只能是自取灭亡，我将与诸公共诛之！”不久，右副将军冯宗异、参政傅友德得知庆阳张良臣叛乱的消息，自临洮率军前来助战。御史大夫汤和也率部来与徐达会师。六月十七日，徐达兵驻镇原，命令右副将军冯宗异、御史大夫汤和、都督副使顾时、参政傅友德等率兵四面进围庆阳城。而张良臣并没有把平叛大军放在眼里，公然打开庆阳城西门外出取水，而且故意放纵人马在城下驰骋，藐视徐达大军。徐达大怒，令冯宗异率部继续推进，进逼庆阳城西门扎营。十八日，张良臣派兵从东门出城进攻围城官军，都督副使顾时率兵迎战，将其击败。十九日，徐达亲自督军攻打庆阳四门，城上箭如雨下，攻城失利。二十日，张良臣亲自带兵出西门挑衅，被右副将军冯宗异击败退回城中。六月二十八日，时值盛夏的庆阳突然风雨大作，洪水泛滥成灾。当地百姓历经战乱，又逢天灾，苦不堪言。但这对被围在庆阳城中、水源严重不足的叛军来讲，却是取水、储水的良机。所以张良臣乘此机会派遣大批叛军出城抢水。徐达部下官兵奉命阻击，双方激战至半夜，叛军大败，狼狈逃入城中。在此之前，由于庆阳城被围日久，城中粮饷及用水等供应都日益紧张，张良臣的屡次出战又均以失败告终，而等来外援的希望又微乎其微，所以张良臣部下的军心开始动摇，暗中出城投降者也越来越多。
为了挽回败局，稳定军心，张良臣在七月初四又趁庆阳刮大风之机，发兵进攻围城官兵，结果还是被徐达所率将士打得落花流水。初五，内外交困、恐惧万分的张良臣被迫登上庆阳城头，向城下大呼请降。但是，徐达因张良臣为人狡诈，认为这次请降也未必是出自真心，再加上愤恨他反复无常、屠杀了大批西征将士，决心要将他正法，所以断然拒绝了张良臣的投降请求。在此种情况下，原来与张良臣共守庆阳的守将感觉生存的希望越来越渺茫，于是萌生了投降徐达的念头。八月二十一日，庆阳平章姚晖等偷偷打开城门，迎接徐达所部西征将士。徐达率兵自北门入城，占领庆阳城。庆阳陷落后，张良臣与其父企图一起投井自杀，徐达命令士兵将他们从井中拉了出来，一并处以死刑。至此，庆阳之乱被平定。
洪武二年九月，大将军徐达与御史大夫汤和一道自平凉起程回京，结束了他长达两年多的北伐和西征之行。右副将军冯宗异奉旨总掌西北地区军务。