朱元璋参加郭子兴义军后，不久被郭子兴提升为镇抚。但徐达却感到濠州地小粮少，而且诸帅不和，郭子兴与孙德崖等人经常为争权而发生冲突，终非久留之地，遂“时时以王霸之略进”，建议朱元璋趁早分兵别处，徐图发展，这一见解正合朱元璋的心意这一见解正与朱元璋不谋而合。至正十四年春，朱元璋以所募兵七百人转属他将朱元璋以所募兵七百人都留给了别的将领，惟独单单留下徐达、汤和等二十四名家乡兄弟南略定远汤和等二十四名家乡兄弟乡南攻打定远，先计降张空堡民兵三千一开始先是用计纳降了张空堡的三千民兵，继而向东夜袭元兵于横涧山，迫使“义兵”元帅缪大亨率两万精壮士卒二万归降。这样一来，朱元璋算有了一支自己掌握的武装力量，为其后的开创基业奠定了良好的基础，这一切的发展与徐达颇具远识的建议是分不开的。
不久徐达在攻取滁州、和州等战役中，又充分地表现了他杰出的军事才能，被授予镇抚之职，成了统军的将领。至正十五年三月，孙德座崖率部就食于到和州掠夺军粮，与郭子兴发生火并，孙德崖在城中被郭子兴所擒拿，但朱元璋在城外亦为孙的部众扣作人质，双方虽然同意交换，但谁也不肯先放人。在这僵持的情势下，徐达不惜冒着自己随时被杀害的危险，“挺身诣德崖军请代”。就这样，朱元璋被换回来，孙德崖被放回去，随后徐达才得以获释。朱元璋对徐达这一行为当然非常感激，从此对他更加信任和倚重了。
不久，郭子兴病亡，朱元璋继统率郭部，成为南方红巾军的主要首领，并随即实施了他攻取集庆（即南京），稳居东南，进而逐鹿中原，成就霸业的宏伟战略计划。徐达在实施这一战略计划中一直被委以重任，至正十五年六月，徐达奉命南波长江，攻打采石矾和太平攻打采石矶和太平，这是进取集庆必争之地，这次战役双方争夺十分激烈，在攻占太平时，起义军一举俘获守城的元万户纳哈出。
朱元璋既扼制了集庆的江上咽喉，从八月开始，就发起向集庆总攻，徐达肩负重任，首先率众突破了元军层层防线，深入敌后，连续攻占溧水、溧阳、句容、芜湖诸等重镇，廓清了集庆外围。次年三月，徐部与朱元璋的主力会合，对集庆实行两面夹击，先破陈兆选大营，尽降其众使其部队全部归降；再攻元兵于蒋山，终于攻克集庆，直到元水寨元帅康茂才率众投降，朱元璋共得在此次战斗****赢得军民五十余万。集庆就是现在的南京，自古就是乃“古帝王之都，龙盘虎踞”，因而南定集庆的意义十分重大，它为朱元璋的奠基立业赢得了一个巩固的根据地，并由此而开创了中国历史上第一个由南向北统一天下的先例。朱元璋把集庆改名为应天府，以表示他的崛起乃上应天意。在这次战役中，徐达立下累累战功，功居诸将之首，赢得了朱元璋的全面信任，及后朱元璋“营四方，多命达为大将”他所显现出的卓越军事才能促使朱元璋在今后的许多战役中都任命他为主将，徐达也就成了朱元璋打天下最重要的助手。
二、攻陈灭张努力进取
朱元璋在占领集庆后，虽说已拥有一块根据地，但他的势力在割据诸雄中，相对来说还是较弱的，所面临的形势也十分严峻，当时大江南北不仅还有元军重兵镇守，而且同是反元义军的东面的张士诚自恃地富粮足，西面的陈友谅倚仗兵强地广，他们时刻都想把朱元璋势力给吞并掉。为求得生存和发展，朱元璋必须首先巩固东西两面防线，然后伺机突玻然后伺机突破，并最终对两大势力给以毁灭性的打击，而要肩负这一重大任务，自然非智勇双全的徐达莫属。
当时东面争夺的焦点是长江下游的军事重镇镇江。假如镇江落入张士诚手里，他便可以随时出兵危胁应天。于是朱元璋决定先下手为强，“命徐达为大将军，委以东下之任”。徐达亦不负重视，旗开得胜，以少数兵力，勇夺镇江，徐达一向十分重视军风军纪，“达等号令严肃，城中晏然”，良明的军纪营的了百姓的拥戴，从而扩大了政治影响，赢得了人心，徐达一鼓作气，徐达又分兵攻下金坛、丹阳诸县，在应天东面筑起一道坚固的军事屏障，为巩固以应天为中的根据地作出了卓著的贡献，以功升任淮兴翼统军元帅。
张士诚对朱元璋夺得镇江当然是不甘心的，镇江的位置太重要了，镇江落入朱元璋之手，无疑对他是一大威胁，他必须拔之而后快，于是在据有常州后便挥师进攻镇江。至正十六年七月，徐达在龙潭一战，击败张士诚军，乘胜进围常州。张士诚急调重兵增援，兵力占有明显的优势，徐达深知“士诚师甚锐，不可当”对方的兵力与勇猛程度，便决定“以计取之”避敌锋芒，用计取胜，先是在距城十八里处分设伏兵，然后亲率中军出战，结果士诚军受伏大败。徐达“获其张、汤二将”，致使张士诚元气大伤。这一战役使一向自负甚高的张士诚再也不敢小看朱元璋的势力，并派使臣到应天议和，表示愿意每年输粮二十万石、黄金五百两、白金三百斤，作为犒军之费，然而志在天下的朱元璋却不为满足，故意抬高价格，狮子口大开，最终双方未能达成协议。徐达奉命继续进军。终于在第二年三月攻克常州，以功晋升知枢密院事。
当年七月，徐达率军进逼宜兴，另遣先锋赵德胜攻常熟，常熟是由张士诚的弟弟张士德镇守。张士德“善战有谋，能得士心，浙西地皆其所略定”，所以在进军前，徐达特别叮咛赵德胜说：“张士德狡而善斗，若使之胜，则其锋愈不可当，唯宜以计取之有勇有谋，如果在战斗中让他胜利了，他的锋锐必然更加不可抵挡，所以必须用计取胜。”赵德胜遵从徐达指示“师次城下，士德迎战不利，遇伏。后又马蹶，遂为德胜所擒，遂下常熟。”，把军队驻扎在常熟城下，稳妥的设置埋伏，战斗打响之后终于擒获了马失前蹄的张士德，接着又攻下了常熟。接着随后，徐达又接连攻克宜兴、江阴等地，从而在东起常熟，中经江阴、常州，西至宜兴，沿太湖北岸构筑起一道弧形的东部防线，既完全堵死了张士诚西犯应天的通道，又随时随地可以进击平江，直捣张士诚的老巢。
徐达在东线节节取胜，但是西线却突然紧张起来，陈友谅趁徐达大军向东进攻之机率领几十万大兵向安徽进击，于至正十八年正月袭破安庆后，又遣将赵普连陷极阳、池州，在那里建立了强大的水寨。从西面对应天构成了严重的威胁。在此关键时刻，徐达再次挑起重任，奉命西调迎击陈友谅军队，他先在应天居守，继而投入了第一线的战斗，至正十九年三月大破赵普胜栅江营，四月攻克池州，缴获陈军战舰无数，以功晋升泰国上将军、同知枢密院事，至正二十年五月，徐达与常遇春共同设谋，大败陈友谅军于池州东南的九华山，歼敌万余人，生俘三千人。在战斗结束后，常遇春大开杀戒，虐杀俘虏，徐达坚决反对这种不人道的做法，两人产生了争执。
至正二十年闰五月，陈友谅率水师十万，一举攻占太平，自立为汉王，并约张士诚东西夹攻朱元璋，一时之间应天告急，江东大震。在这危急时刻，徐达设伏于南门外，待陈友谅进至江边渡口龙湾时，诸路伏兵齐发，一举重创陈友谅，生俘七千余人，获战舰百余艘，战船数百，陈友谅夺舟逃回江州，徐达乘胜收复太平，攻占安庆。这一战役解除了应天的危急，彻底粉碎了陈友谅对西线的进攻；张士诚见陈友谅惨败，于是不敢轻举妄动了。连年来徐达在危难时机东西征战，使朱元璋东西两翼防线得到巩固，大大扩展了应天根据地，为其后削平群雄、顺利北伐、统一全国奠定了胜利的基础。
至正二十一年七月，陈友谅部将张定边重新占领安庆。朱元璋率水师亲征，徐达负责主攻陈友谅的老巢江州。徐军迅猛异常，友谅大惊，以为神兵白天而下以为神兵从天而降，仓猝不能军仓猝之中不能整束军队，携妻子夜奔武昌，遂克江州仅仅携带着妻子儿女连夜逃到武昌，于是徐达又顺利地拿下了江州。徐达穷追不舍，沿江而上，接连占领薪州、黄州、黄梅、广济，直趋汉阳，于汉口扎下大营，有力地遏止了陈友谅的东下。朱元璋得以偷袭收复安庆，并攻陷龙兴改名洪都，又连下袁州、瑞州、临江、吉安等府，将势力范围扩大到江西，徐达以功晋封中书右丞。
至五二十三年正月，张士诚遣其弟士信率大兵围攻韩林儿、刘福通的根据地安丰。当时朱元璋在名义上仍奉韩林儿的龙凤年号，同时也考虑到“安丰破，则士诚益张”一旦安丰被攻破，张士诚的势力就会更加扩张，难以遏制，因而决定亲率徐达等渡江北上支援。然而此时陈友谅却乘虚而入，大举向洪都反扑，“空国而至，兵号六十万”，气势汹汹，吉安、临江、无为等州府，数月之中，竟都被陈友谅所攻陷。朱元璋不得不挥师回击，双方决战于鄱阳湖。在这次决战中在这次具有决定意义的战斗中，徐达又立了大功，他“身先诸将，击败友谅前军，杀一千五百人”；在激战中，徐达战船着火，但他毫不畏惧，一面指挥灭火，一面坚持战斗，终于挫败了陈友谅的猛烈进攻。经此一战，朱元璋对战胜陈友谅已充满了信心，同时为了严防张士诚乘虚偷袭后方，便把留守应天的重任交给了徐达，并说：“吾以达留守，缓急可百全也”，朱元璋对徐达办的事是绝对放心的。徐达回到应天，兢兢业业，恪尽职守，“申约束，严斥堠，示以镇静，若不知有外兵者”。张士诚见无隙可乘也不敢轻举妄动，因而使朱元璋解除了后顾之忧，得以全力对付陈友谅。朱元璋在与陈友谅决战中，虽然几经艰险，但最后还是取得了鄱阳决战的胜利，不仅全歼陈友谅的六十万大军，而且杀死了陈友谅。不久，徐达奉调回到西线，迫使陈友谅之次子陈理献出武昌归降，并进而攻取了江陵、辰州、衡州、宝庆诸路。陈友谅的残余势力既被肃清，朱元璋的势力范围也扩展到湖北、湖南。至正二十四年正月，朱元璋在应天即吴王位，建置百官，设中书省，徐达以卓越功勋任左相国之职。从此，徐达“出将入相”，在军事与政治两个方面，都发挥着越来越重要的作用。
陈友谅被消灭以后，朱元璋的下一个战略目标自然是东灭张士诚了。至正二十五年十月，徐达被委任为总兵官，率水陆大军东征。徐达针对张士诚辖境南北狭长二千余里，中隔长江，江北守备力量相对薄弱的实际情况，确定了“先取通、泰诸郡，剪其羽翼”，然后专事浙西的战略方针然后专攻浙西的战略方针，迅速渡江北上。徐军首先攻下苏北重镇泰州。然后进围兴化和高邮，这样就使张士谈陷入了南北隔绝的困境这样就使张士诚陷入了南北隔绝的困境。张士诚当然不甘心坐以待毙，他从江南出击宜兴，以牵制徐达在江北攻势。然而徐达审时度势，进据都慎重考虑，予以取舍，在回师宜兴击溃张士谈军后，继续向江北挺进，并于次年三、四月间攻下高邮、淮安、兴化。徐达还奉命破安丰，俘元将忻都，再战徐州，俘斩元兵万计。至此，“淮南、北悉平”。徐达仅用了半年左右的时间，不仅完成了攻取江北，剪除张士诚羽翼的任务，而且打通东控齐鲁、北进中原的通道。
同年七月，朱元璋与李善长、徐达等一起商议讨伐张士诚的大计。左相国李善长认为张氏“势虽屡屈而兵力未衰，士沃民富，又多积储，恐难猝拔，宜候隙而动”。但徐达久经战阵，对张士诚的虚实了如指掌，他反对这种生失战机的保守决策，他指出：“张氏骄横，暴珍者奢侈，此天亡之时也。其所任骄将，皆龌龊不足数，黄、蔡、叶三参军辈，是迂阔书生，不知大计。臣奉主上威德，率精锐之师，声罪致讨，三吴可计日而定。”徐达的意见非常适合朱元璋的意愿，他遂即任命徐达为大将军，率师二十万讨伐张士诚。
徐达还是从“剪其羽翼”的战略出发，首先攻打太湖南岸的湖州，把吕珍的六万援军狙击于城东之旧馆，紧接着又分兵击败张士诚以及徐志坚所率的援军于皂林和姑嫂桥，俘获志坚及兵众三千余人，迫使吕珍等于十一月献出了湖州。把湖州占领以后，徐达引兵北上，于当月包围了张士诚的大本营平江。在围城期间，徐达每遇大事均事先向朱元璋请示。朱元璋亲笔手书慰之安慰徐达，说：“将军自昔相从，忠义出白天性忠义出自天性，沈毅有谋，定能戡乱定难。虽古豪杰何以加兹……然将在外，君不御，古之道也。自今军中缓急，惟将军便宜行之。”徐达得书后，便檄令各路大军，向平江城发动总功击。张士诚内无粮草，外无援兵，曾先后两次拼死突围，但都被徐军杀回。至正二十七年九月，徐达首先攻破葑门，常遇春亦攻入阊门，平江遂克至此平定了平江。张士诚为尽被俘张士诚在此战中被俘虏，送应天后自缢而死。当徐这大捷凯旋回到应天时当徐达大捷凯旋回到应天时，朱元璋亲到城门论功行赏，徐达晋封为信国公，并过右丞相并升为右丞相。朱元璋还特意谕诸将说：“灭汉灭吴，皆公等之力，古之名将，何以加诸！今当北定中原，各努力进取。”