徐达在洪武八年（1375年）三月奉诏回京后，北元右丞相、河南王扩廓帖木儿等所部北元之兵依旧不时入犯。这年八月，扩廓帖木儿在漠北死去，明朝廷少了一个劲敌。但是，北元政权依然存在，明朝北部边患并未就此彻底消除。所以，在此后九年多时间里，徐达又多次奉诏挂印镇守明朝北部边塞，期间还曾一度奉命统兵出征漠北，讨伐北元。
洪武九年（1376年）上半年，徐达奉明太祖之命，挂“征虏大将军”印镇守北平，到洪武十三年（1380年）十一月奉诏从北平回到京城，徐达此次出镇长达四年半左右，这是徐达一生中坐镇北塞时间最长的一次。
洪武九年（1376年）六月初六，由于北边兵患不止，明太祖以敕训斥镇守北边的大将军徐达等将领，说：“六月四日早，金星犯毕右股北第一星，主夷狄兵起，以分野推之，应在赵地。今北元四大王（指其时手握兵权的北元四位王爷）不满二百人，官军屡捕不获，前者皆云其众无马，今乃言有十五骑相从出没，不知劫夺于何人者？盖由尔诸将不趁机剿捕，致令若此。”责令徐达等在接到敕书后，迅速派智勇将士四面围捕北元四王，防其势力再度扩大，以致祸患蔓延，并且指示他们让大同等处守御官军严加防守。九月初二，明太祖又遣指挥佥事吴英往北平，令其将“七月火星犯上将，八月金星又犯之，占云当有奸人刺客阴谋事”发生之事通知大将军徐达，告诫他“凡阅兵马、习骑射，进退之间，皆当谨备”，并要求他“遍谕诸将”知晓，让他们严密防范，说：“虽左右将校，勿令相近，其北元阉官尤宜防之，唯南去者可以使令。盖将者，众之死生、国之安危系焉。能戒慎之，庶可免忧。”
洪武十二年（1379年）六月十二日，明太祖又敕令在山东临清练兵以备防守北塞之用的信国公汤和，注意保持与征虏大将军徐达之间的联系，共同筹划有关边防事宜。在敕令中，明太祖说：“今年春命尔率诸将练兵于临清，以备北边，今遣使齐符诣军，召吉安侯陆仲亨、江夏侯周德兴、宜春侯黄彬还京，其所部骑兵令南安、巩昌、河南、永嘉四侯分领之，以伺北虏消息。常宜遣人往来山东、北平大将军（指徐达）所，计议边务，慎之勿忽。”七月二十五日，北元右丞周亨等八人率兵民287人，自沙漠地区前来归降。徐达得到消息后，特派指挥武兴率兵到北平山后迎接他们。武兴等在路上又与北元平章乞奴等6人意外相遇，将其一举生擒，缴得其枢密分院银印。
洪武十三年（1380年）十月十二日，明太祖诏令徐达还京。十一月初九，徐达从北平回到京城，正式结束了这次长达四年有余的北平之行。
在此期间，徐达除了处理军务外，还曾奉明太祖之命，祭祀鬼神。如洪武十年（1377年）六月，明太祖委派18名朝廷大臣作为自己的代表，分别祭祀岳镇、海渎诸神，徐达奉命就近祭祀北岳。洪武十二年（1379年）正月十一日，明太祖下令合祀天、地于京城南郊的大祀殿，公侯徐达等又奉命分别献祭日月、星辰、岳镇、海渎、山川诸神。
洪武十四年（1381年）正月初二，由于北元平章乃儿不花等寇边，明太祖诏命魏国公徐达为征虏大将军，率左副将军信国公汤和、右副将军颍川侯傅友德等前往讨伐。
徐达奉命来到北平后，一面加紧开展战前准备工作，一面积极修缮沿边关隘，以完善北部防御体系，增强其战守能力，有效抵御北元骑兵的入侵。如洪武十四年（1381年）正月二十五日，徐达曾下令调发燕山等卫屯兵15100人，修筑永平府界岭等32处关隘。三月十七日，明太祖遣使携敕前往北平，命令征虏大将军魏国公徐达、左副将军信国公汤和、右副将军颍川侯傅友德：“今夏及秋，胡人必伏精兵于近塞，以待我师。卿等欲轻骑进击，不可不深为谋，必先知彼虚实，乃可行兵。若知彼之计，宜遣四百人先入其境，而以精骑继之，其先行者必有擒获，执而询之，可得情实。有伏则引还，诱其追我，度其行远势困，则返击之，必得其利，无伏即以精兵捣之可也。若大军未可出塞，且留营北平。”四月初一，明太祖又命令都督府挑选骑兵赶赴北平，随同大将军徐达出征。
四月十五日，大将军徐达正式统领官兵出塞，讨伐北元之兵。右副将军傅友德为前锋，率军进抵黄河北，北元骑兵惊恐万分，仓皇逃走。傅友德选派轻骑乘夜袭击灰山，将其一举攻克，擒其平章别里不花、太史文通等，并俘获大批人口、牲畜。同时，徐达部将西平侯沐英率兵出古北口，独当一面，攻略公主山长寨，歼其守军。接着，他率部连克全宁等蒙古四部，经过驴驹河时，又生擒北元枢密知院李宣，俘虏敌众一千余人。同年八月二十九日，徐达等奉诏班师回到京城，为他生平的最后一次出征行动画上了一个圆满的句号。
自洪武十四年（1381年）九月至洪武十七年（1384年）闰十月，徐达在三年多的时间里，又先后三次奉诏挂“征虏大将军”印，离京出镇北平，为维护明朝北部边塞的安宁、确保沿边地区广大人民群众生命和财产的安全等，贡献出了自己的最后一点光和热。
洪武十四年（1381年）九月初一，从塞外班师回到京城、仅歇息了一个晚上的徐达，又被明太祖派出镇守北平，而且被赋予调遣、管束当地所有军民的特权。洪武十五年（1382年）十月二十九日，徐达奉诏返回京师。这次出镇，前后历时十五个月。
洪武十六年（1383年）正月十四日，徐达又奉诏往镇北平，全面负责巡抚北边、训练士卒等项事宜。同年十月初八，明太祖派使者至北平，将徐达召回了京师。本次出镇，为时将近九个月。
徐达生平最后一次奉诏镇守北平是在洪武十七年（1384年）正月二十日至闰十月初一为时九个多月。期间，徐达曾于十月初八上奏朝廷，向明太祖报告北平诸卫将校士卒之数，称北平其有17卫，合计将士155471人。据说，后来由于“太阴”屡犯“上将”，天象异常，明太祖担心徐达发生意外，遂下诏将他召回了京城。
自元至正十三年投奔朱元璋所部红巾军以后，徐达或拼杀沙场，身冒矢石，或出镇北塞，历经雨雪风霜，数十年如一日，为开辟大明江山、稳固新生的明朝政权呕心沥血，就在奉诏回京的洪武十七年（1384年）冬天，徐达终于积劳成疾，竟致卧病不起。
据史籍记载，当徐达疮疾缠身、久治不愈时，明太祖心急如焚，唯恐失去他这位开国元勋、不可多得的大将。为了能使徐达早日康复，明太祖不但遣使“四召名医治之”，而且特地在洪武十七年（1384年）十二月举行祭礼，祷告山川、城隍之神，乞求神灵保佑徐达痊愈。洪武十八年（1385年）正月十六日，明太祖得知徐达“病疮而愈”，很是高兴，还特意派遣徐达的长子徐辉祖持其玺书前去慰问徐达。
不料，徐达已见好转的病情后来又突然恶化。洪武十八年（1385年）二月二十七日，徐达因病去世，终年54岁。明太祖闻讯后，“袒跣奔（徐）达寝，抚尸而恸”，旋即为之“辍朝”，以表示对徐达的哀悼。同时，明太祖又厚加“恤赙”，下诏追封徐达为“中山王”，予谥“武宁”，赐葬于钟山之阴，并命诸王遣官祭拜，令有司塑其像于功臣庙，每年依时按节祭祀徐达。