朱元璋占据应天后，并没有沉浸在胜利的喜悦中，他对自己所处的严峻形势有着清醒的认识。当时，应天东面的镇江被元将定定扼守着；东北的扬州（今江苏江都）由青衣军张明鉴占据：东南的平江（今江苏苏州）掌握在张士诚手中；南面的徽州（今安徽黄山市）有元将八思尔不花驻守；西面徐寿辉的势力己扩展到池州（今安徽贵池）。张士诚和徐寿辉虽然与朱元璋一样，也都是起义军首领，但此时已进入群雄逐鹿时期，大家都致力于扩张自己的地盘，早已不可能联合起来共同抗元，而且，张、徐地广兵多，对朱元璋的威胁比周围的几支元军要大得多。朱元璋放眼四望，自己竟是“地狭人少”，处于四面受敌之境。不过，朱元璋也不乏有利之处：由于小明王拖住了元军主力，应天北面出现了一道军事屏障，这使他可以放心大胆地经营江南。
在攻下镇江，拿下东面的战略要地后，朱元璋想与张士诚建立和平关系，以便集中精力去经略其他地方。他派人拿着自己的亲笔信到张士诚处，建议双方互通使节，“睦邻守国，保境息民”。张士诚本是盐贩，乘农民起义爆发之机率领18人起兵，不久即建立大周政权，自称诚王，此时已占据平江（今江苏苏州），改名隆平府，定为国都，在江南可以说立足已稳，根本不把朱元璋放在眼里。他扣留了朱元璋的使节，还派兵攻打镇江，被徐达击退。和睦相处既无可能，朱元璋便决定向张士诚施以有力打击，使他心怀戒惧，在朱元璋集中兵力南下西征时不敢轻举妄动，觊觎应天。他指示徐达迅速出兵包围了常州，又派遣三万士兵前去助战。张士诚惟恐常州有失，也派遣数万大军前往增援。徐达闻讯设下埋伏，张士诚军惨败，主将被俘。张士诚这才知道不可小视朱元璋，派人到应天求和，提出情愿每年向朱元璋交纳粮食二十万石，黄金五百两，白银三百斤。朱元璋此时在战场上占据了优势，自然是得理不饶人，他要求张士诚放回所扣使者和俘去的所有将校，岁输粮五十万石。张士诚觉得要价太高，不肯应允。
议和未成，朱元璋下令发动大规模攻势。但常州毕竟是个重镇，久攻不下，朱元璋认为这是将士们未尽全力，命自徐达以下一律官降一级，并写信指斥徐达师老无功，督责他“勉思以补前过，否则必罚无赦”。后来，朱元璋还亲到镇江督师，并以二万精兵增援，在围攻了八个多月后，终于将常州攻克。在攻克常州前，朱元璋已命人攻占了扼守太湖西口的长兴；攻克常州后，又派兵占取了濒临大江的江阴。得到了这两处战略重镇，就牢牢锁住了张士诚西进的路线，使朱元璋免除了东顾之忧。接着，徐达又率军进攻宜兴，并分兵攻打常熟。宜兴城坚难下，只得暂罢，由张士诚的弟弟张士德坐守的常熟却很快就被拿下，张士德也被俘。张士德“善战有谋，能得士心”，是张士诚手下最重要的谋士，张士诚所领有的浙西地区，均由他带兵略定。俘虏了张士德，等于砍去了张士诚的一条手臂。张士诚在母亲的万般催促下，派人到应天，提出每年输粮十万石、布一万匹，与朱元璋修好，要求用所俘朱元璋的骁将廖永忠换回张士德，朱元璋断然拒绝。张士诚便归降了元朝，试图借助元朝力量与朱元璋抗衡。
在用兵东方的同时，朱元璋还分兵争夺南面和西面的战略要地，先后攻占了广德、宁国（今安徽宣城）、徽州、池州等地。
从龙凤二年（1356年）三月攻占集庆后，朱元璋便开始派兵经营周围地区，到龙凤三年（1357年）十月，经过一年多的奋战，应天周围的战略重镇均落入朱元璋之手，可谓战果丰硕。应天的安全既然有了保障，朱元璋的目光便投向更远的地方。东面的张士诚虽然在战场上吃了些亏，但他的辖区财力雄厚，西面的徐寿辉及其部将则兵力雄壮，当时人有“论兵强莫如友谅，论财富莫如士诚”之说，朱元璋在现阶段要想吃掉这两个比自己强大的对手，自然毫无可能。只有东南方面还在元军的控制之下，因与元朝本部相隔甚远，元军都驻扎在一个个孤立分散的据点里。朱元璋审时度势，确立了防御东、西两线，集中兵力略取东南的战略决策。
龙凤四年（1358年）三月，朱元璋命自己的外甥李文忠与邓愈、胡大海合兵进攻浙东，他们很快就攻占了建德路，朱元璋命改为严州府，令李文忠镇守。驻守杭州的苗军元帅杨完者多次派兵反攻，均落败而归。李文忠进克江浦，从侧面对婺州（今浙江金华）实施包抄。杨完者手下有数万苗兵，勇猛敢战，是朱元璋经略浙东的最大障碍。恰在这时，元军内部久已蓄积的矛盾爆发出来，他们不顾大敌当前，竟然发生火并，杨完者兵败自杀，由其部将带领驻守桐庐的三万苗军都归降于李文忠。胡大海率军攻打婺州，守将石抹厚孙拚死抵抗，竟然久攻不下。朱元璋怕拖得久了，师老兵疲，给敌人以可乘之机，遂率领十万大军，树起“奉天都统中华”的金牌，亲征婺州。石抹厚孙的哥哥石抹宜孙驻守在处州（今浙江丽水），他怕婺州失守，一面传言让石抹厚孙坚守勿出，一面派兵带着新造的数百辆狮子战车前往增援。援军走到松溪，观望不前。朱元璋认为松溪山多路狭，车不易行，派兵前往拦击，将援军击退。城内元军被围日久，人心本已浮动，现见救援无望，有些军官便联合起来，开门投降。朱元璋顺利进入婺州，在那里设立军政机构。接着，又分兵四出，占领了婺州周围地区。朱元璋还派人到庆元路（今浙江宁波），招降控制着浙江沿海地区的割据首领方国珍。方国珍见朱元璋势力强盛，知道自己不是对手，又想借为声援，便遣使进献礼物，表示归附。到龙凤五年（1359年）下半年，衢州、处州等地也落入朱元璋手里，元军在浙东的据点都被拔掉。朱元璋经略东南的战略决策，获得圆满成功。