历史的选择造就了另一位英雄。忽必烈在汗位争夺中取得胜利之后，随即挥鞭南宋，开始了他的统一大业。经过数年的征战，1271年，忽必烈统一了四分五裂的中国，建立了元朝，改国号为元，取《易经》中“大哉，乾元”之意，从此大蒙古帝国在中国的这一部分以“元”这个名字被载入史册。
平定诸王叛乱
海都、都哇之乱
海都是窝阔台第六子合失的儿子，他在成吉思汗的帐殿长大，曾在蒙哥汗处效力。在忽必烈与阿里不哥的争夺中，他与阿里不哥一派。至元元年（1264），阿里不哥向忽必烈投降后，他回到叶密立。
忽必烈为商讨如何处置阿里不哥，曾向钦察汗别儿哥、察合台汗阿鲁忽、伊利汗旭烈兀和窝阔台后王海都发出邀请，前三汗虽表示将在至元四年前来，但不久却相继去世，海都则以“牧马尚瘦”，借故拖延。这时，忙哥帖木儿、木八剌沙和阿八哈分别继承了钦察、察合台和伊利汗国的统治权。
海都因支持阿里不哥未遂而对忽必烈心存不满和疑惧，他一方面抓紧扩充自己的实力，一方面与术赤后王改善关系，乘机占有了窝阔台原来的封地，割据自雄。并秣马厉兵，扩大实力，准备武装反叛。
海都的所作所为无疑会引起蒙古大汗的注意，但刚刚平定了李璮和阿里不哥之乱的忽必烈不愿连续用兵，与本家族成员再开战火，他一方面争取以和平的方式解除海都的威胁，加强国家对西北和中亚地区的控制，一方面同钦察、察合台汗国建立联系，意在结成共同制约海都的联盟。
首先，他派遣长期在自己身边并能“出色地履行职责”的察合台四世孙八剌（察合台曾孙，木秃坚的儿子哈剌旭烈之子）前往河中，辅助木八剌沙。八剌到达后，废黜了木八剌沙，自己做了察合台汗国的君主，并按照忽必烈的意图，聚集兵力，准备进攻海都。
同时，忽必烈选任聪慧善辩、办事果决的任拔都封地平阳地区达鲁花赤的乃蛮人铁连出使钦察、窝阔台汗国，并指示铁连先至钦察汗忙哥帖木儿处，与术赤后王结盟后，再至海都处。“铁连既奉命，欲直造海都境，视其虚实，然后议于诸王。副者弗从，曰：‘上命我辈先议于王，今遽造敌境，不可。’铁连曰：
‘亲承密旨，汝辈违则当诛。’副者惧而从行。即至，海都日召宗亲宴饮，将伺其隙谋害之。铁连乃厉声斥之曰：‘且食，勿语！望语言脱口，相摭为罪耶！’
良久，海都曰：‘直哉！’酒半，铁连求衣为欢，海都嘉其雄辩，将解与之，其妃止之，以皮服二袭付之。因语其属曰：‘为使者当如是矣。’厚赠以行。既至拔都蒙哥铁木王（即拔都孙忙哥帖木儿——引者注）所，具告以故，王曰：‘祖宗有训，叛者人得诛之。如通好不从，举师以行天罚，我即外应掩袭，剿绝不难矣。’铁连还，悉以事闻，因言于帝曰：‘海都兵繁而锐，不宜速战，来则坚垒待之，去则勿追，自守既固，则无虑矣。’帝深然之。”
八剌按照忽必烈的意图，掌握了察合台汗国的统治权；铁连的出使又得到了钦察汗配合讨叛的承诺，忽必烈成功地争取到了钦察汗和察合台汗的支持与合作，孤立了海都。同时铁连也掌握了海都的动向，并提出了制服海都的措施。忽必烈采纳了铁连的建议，虽然海都反状已明，却没有先事兴兵讨叛。“海都觇伺拔都王（即钦察汗忙哥帖木儿——引者注）为备已严，意乃帖然”。
但是，海都仍担心同时也不甘心受到忽必烈的威胁，至元三年（1266），他进入高昌王境内，骚扰并掠夺了亦都护的属民。五年（1268），又击溃并洗劫了他们附近的、依附于（蒙哥合罕之子）玉龙答失的纳邻，再次引兵东向，进入高昌王境。忽必烈自岭北发兵，迎击海都于北庭（今新疆吉木萨尔破城子），乘胜追至阿力麻里。
钦察汗忙哥帖木儿和察合台汗八剌也按照忽必烈的意图，聚集力量进攻海都。腹背受敌的海都兵败后先与忙哥帖木儿讲和，然后集中兵力迎击八剌。在胜负难分的情况下，窝阔台的孙子钦察斡忽勒居中调停，使他们停止互相攻击并结成了安答。此后，察合台、窝阔台两系联合攻打伊利汗阿八哈。在与阿八哈的战争中，八剌溃败并向海都求援。海都又乘机掠夺了八剌的财产并控制了察合台汗国。
至元八年（1271），八剌死，海都主持了八剌的丧事，先后立尼克拜和不花帖木儿掌管察合台汗国事务。八剌和阿鲁忽诸子不服，举兵攻击海都，察合台与窝阔台后裔间再一次爆发战争。八剌长子伯帖木儿和阿鲁忽的儿子出伯、合班投奔了忽必烈，后来，贵由的孙子察八忒也离开了海都，带着一些异密归附了忽必烈。不花帖木儿死后，由海都主持，又将察合台汗国的统治权交给了八剌的儿子都哇（《元史》又作笃哇、都瓦、朵哇）。察合台汗国又成了海都与蒙古大汗对抗的同盟。
鉴于海都势力的扩张，忽必烈一方面遣使令其罢兵，一方面加强了漠北和林和西北别失八里、火州、斡端等地区的防务。他派遣户部尚书、宗正府扎鲁火赤（扎鲁忽赤）畏吾儿人昔班出使海都，“使之罢兵，置驿来朝”。又于至元七年，以永兴府达鲁花赤汉人刘好礼为吉利吉思、撼合纳、谦谦州、益兰等五部断事官，治益兰。好礼“即于此州修库禀，置传舍”，迁入中原的农民、军人进行屯垦，设工匠局管理迁入的工匠，意在将这一地区建成防御西北诸王的根据地。
至元八年（1271），忽必烈派皇子北平王那木罕（南木合）驻守阿力麻里。
十年（1273），尼克拜与海都相攻，元军又乘机进兵察合台封地。
十一年（1274），元朝在天山南北的别失八里、斡端（又作忽炭，今新疆和田）、鸭儿看（叶儿羌，今新疆莎车）、沙州（今甘肃敦煌）等处置水陆驿站，加强西北与内地的交通往来，以便及时支援前线。
十二年（1275），叛军至漠北，围皇室祖陵，三日不去。八月，忽必烈再命那木罕率诸王镇守漠北，总领诸军，命木华黎四世孙、丞相安童辅佐，备御海都。随同镇守的还有诸王阔阔出（忽必烈第八子，那木罕弟），蒙哥的儿子昔里吉（又作失列吉、习列吉、失列及、失里吉、昔列吉、昔里吉、昔里给——引者注），阿里不哥的儿子玉木忽儿（又作药木忽儿、约木忽儿、要木忽儿、要不忽儿、要忽儿、要木忽而、要木忽尔、要术忽尔、药木忽尔、岳木忽、岳木忽而、岳木忽尔、籰木忽尔——引者注）、灭里帖木儿（又作明里帖木儿、明理帖木儿、灭里铁木儿、灭里铁木尔），大汗诸弟岁哥都的儿子脱黑帖木儿（又作脱脱木儿、脱帖木儿、脱铁木儿、脱脱木、脱别铁木）、斡鲁忽台（又作兀鲁兀台），以及斡惕赤斤的孙子、忽必烈从弟察剌忽（又作札剌忽）等。但蒙哥和阿里不哥诸子对忽必烈一向不满，他们无意讨叛，却千方百计寻找机会脱离他。
十三年（1276），脱黑帖木儿、昔里吉、玉木忽儿、灭里帖木儿等相约叛乱。元将八鲁浑、粘闽相应，并率所统兵投奔海都。宗王牙忽都率兵追袭，擒八鲁浑。叛乱的主谋脱黑帖木儿以帝位诱惑昔里吉说：“帝位将归于你，合罕使我们和我们的父亲们受了多少侮辱啊！”“我们把那木罕和安童那颜抓起来交给敌方吧。”于是他们劫持了北平王那木罕、诸王阔阔出、牙忽都和丞相安童，将皇子送往钦察汗忙哥帖木儿处，将安童送给海都，希望借此与海都结成共同反抗忽必烈的联盟。他们遣使说：“你们有大德于我们，我们对此不忘，现将企图攻打你们的忽必烈合罕的宗王和异密们送交给你们；咱们不要互相算计，要联合起来打退敌人。”但海都没有同他们结盟，却企图利用他们在漠北牵制元军，以减轻本身受到的压力。他回话说：“我们很感谢你们，我们正希望你们这样做，请留驻于原地，因为（你们）那里水草很好。”他们受海都的指使向窝阔台、察合台的斡耳朵进攻，扬言拔都的儿子们、海都和宗王们正带领大军从后面赶来，迫使游牧于那里的蒙古部落迁徙。
秋天，昔里吉等进犯漠北，抄掠诸部，掠祖宗所御大帐，占领吉利吉思，俘虏益兰等州断事官刘好礼。
十四年（1277），叛王分道东进。四月，驻牧应昌（今内蒙古阿巴哈纳尔旗东南）的弘吉剌部首领只儿瓦台（又作只儿瓦歹、只里瓦歹、只里瓦带、只里斡台、只儿瓦台、折儿瓦台）起兵响应，围忽必烈之女囊加真公主于应昌城中。忽必烈急调诸王伯木儿、彻彻都，中书左丞博罗欢等北上，以伯颜统军讨伐昔里吉等。博罗欢等在应昌大败叛军，擒获只儿瓦台。
昔里吉等越过杭海岭（今杭爱山），右丞相伯颜与诸王别吉里迷失、兀鲁兀台与钦察将领土土哈（秃秃哈）、阿速将领伯答儿领兵往讨。先后与叛王战于纳兰不剌、秃兀剌河（今土拉河）和斡欢河（今鄂尔浑河）。斡欢河之战，双方“夹水而阵，相持终日”，被叛王劫持的诸王牙忽都与土土哈暗通消息，以为内应，从叛军内部扰乱其阵，伯颜等乘叛军军乱，“麾军为两队，掩其不备”，大败叛军，土土哈夺回被叛王掠走的祖宗大帐，昔里吉等溃逃。
十五年（1278），土土哈逾金山，击败与叛军勾结的外剌、宽彻二部，缴获大量羊马辎重。昔里吉败走也儿的石河，脱黑帖木儿等逃往吉利吉思。这年冬天，元以镇国上将军、汉军都元帅、女真人刘国杰领左、中、右三卫兵，戍守和林。元朝政府军又夺回了对漠北地区的控制权。
十六年（1279），脱黑帖木儿领兵南下，袭击杭海岭东。元军主帅别吉里迷失采纳刘国杰的建议，趁其“全军而来，巢穴空虚”，直捣谦河。大军迅速占领谦谦州，追其部众至乌斯。脱黑帖木儿慌忙回军，大败于谦河。元军“俘获生口畜牧万计”。次年春，叛军再次东犯，又被击败。
十八年（1281），叛军内乱。脱黑帖木儿屡被元政府军击败，求援于昔里吉，后者不应。脱黑帖木儿怨恨昔里吉，于是他又以帝位煽惑蒙哥的孙子撒里蛮（蒙哥子玉龙答失之子），玉木忽儿不从，遭到脱黑帖木儿的征讨。双方交战之际，脱黑帖木儿的军队倒戈投奔玉木忽儿，他本人则被玉木忽儿的军队俘虏，交到昔里吉处，被杀。撒里蛮也不得不投奔昔里吉，昔里吉将他送往术赤后王火你赤处。当他们途经撒里蛮封地时，被撒里蛮的部众劫获，并把护送他的人抓了起来。撒里蛮带着自己的军队拦截了昔里吉的辎重队，并命令将辎重送往大汗处。
昔里吉率军前来攻打撒里蛮，他的军队却投奔了撒里蛮，昔里吉被撒里蛮所俘。
玉木忽儿得知这一情况后，又调集军队与撒里蛮作战，他的军队也同样倒戈投降，玉木忽儿又作了撒里蛮的俘虏。于是，撒里蛮率领着自己的军队和俘获的叛王前去投奔大汗。途中，玉木忽儿以大量珍宝向斡惕赤斤后王行贿，得以中途逃脱。昔里吉则在撒里蛮之前到达，大汗没有接见他，而是将他流放到一个气候恶劣的海岛，后来，他便死在那里。撒里蛮则受到了礼遇，大汗赐给了他土地和军队，但不久他也死去了。后来，玉木忽儿投奔了术赤后王火你赤，灭里帖木儿投靠了海都。
昔里吉等的叛乱打乱了元朝的平叛部署，破坏了元朝在西北地区的控制、经营。使海都乘机得以休养生息和扩充实力。于是，他打回了阿力麻里，并不时骚扰天山南北。为了遏制海都势力的东进，忽必烈不得不调整部署。至元十五年，他以虎符授八撒察里，命他掌别失八里畏吾城子里军站事，以朵鲁只佩金符掌彰八里军站事。十六年，四川西道宣慰使、副都元帅刘恩进位都元帅，率蒙古、汉军戍守斡端，置屯田于甘州。十七年，遣阿老瓦丁率兵戍守斡端，命万户綦公直戍守别失八里，置镇北庭都护府；在火州置交钞提举司。十八年綦公直进驻别失八里，刘恩进兵斡端，元朝在西北的兵力增至十多万。以宗王阿只吉节制。又从阿只吉之请，自太和岭至别失八里置新站三十，以利于军情的传达和物资转运、供应。刘恩在斡端先败海都将领玉伦亦撒所率万人，海都遣八把率众三万赴援，刘恩以寡不敌众撤军。
十九年（1282），海都得知元军已平定昔里吉之乱，乃遣那木罕等回，一方面谋求和解，一方面继续进兵斡端等地。
二十二年（1285），都哇率兵十二万围火州。声言：“阿只吉、奥鲁只诸王以三十万之众，犹不能抗我而自溃，尔敢以孤城当吾锋乎？”高昌亦都护火赤哈儿的斤率众固守。叛军围城半年之久，城中粮将尽，都哇所部也师老兵疲。于是都哇射书入城，要求亦都护纳女讲和。他说：“我亦太祖皇帝诸孙，何以不附我？且尔祖尝尚公主矣。尔能以女与我，我则休兵；不然则急攻尔。”亦都护不得已忍痛将爱女送给都哇，叛军解围去。亦都护还镇火州，驻于哈密力之地。
二十三年（1286），海都再次发动攻势，綦公直率军迎击于马纳思河（今玛纳斯河），追击浸远，援军不继。海都设伏于洪水山（今新疆呼图壁县西南），元军中计，公直与别失八里屯田军总管、怀远大将军李进被俘，公直第五子瑗战死。李进从叛军行至掺八里（即彰八里，今新疆昌吉），遁还。至和州（火州，今新疆吐鲁番东南），收散卒三百人，且战且行，还至京师。海都乘胜再至火州，进攻哈密力，亦都护大战，力尽而死。同年，忽必烈以伯颜代阿只吉总兵，以皇孙铁穆耳抚军，在别失八里置元帅府，遣侍卫新附军屯田戍守。
西北藩王和李璮的叛乱，使忽必烈痛感地方势力的发展对中央政权威胁之甚。于是，他在平叛的同时也加强了对东道诸王的控制，这就又促成了东道诸王的叛乱。
至元二十四年（1287）三月，斡惕赤斤的后裔乃颜首先发动叛乱，并与海都早有往还。海都拟率军前来会合，形势顿趋严峻。忽必烈仍以伯颜驻守和林，割断海都与乃颜的联系，阻止海都东来，自己则率军亲征乃颜。
他遣博罗欢总探马赤军，调集忙兀、兀鲁、扎剌亦儿、弘吉剌、亦乞烈思五投下部众先行。以玉昔帖木儿、李庭分统汉军扈从北征。
海都、都哇利用东道诸王叛乱的有利时机，也加紧了军事进犯。二十五年（1288），海都犯边，元派驸马昌吉，诸王也只列（也只里），察乞、合丹两千户，皆发兵从诸王出伯（术伯）北征。
二十六年（1289），晋王甘麻剌、大将土土哈与海都军战于杭海岭。“敌先据险，诸军失利”，甘麻剌陷入重围。“土土哈以其军直前鏖战，翼晋王以出”。海都乘胜北上，再次占领和林。和林为漠北重镇，屯粮所在，掌钱谷出纳的和林宣慰使怯伯、同知乃蛮带、副使八黑铁儿投叛，元朝政府军有遭到东西叛军联合围攻的危险，形势更加危急。七十四岁的老皇帝忽必烈再次亲征，他调集安童、伯颜、玉昔帖木儿、李庭等各路蒙古、汉军扈从。七月，忽必烈出师，海都闻讯远遁。元军收复和林，仍以伯颜居守。
二十九年（1292）秋，海都指使明理铁木儿犯边，伯颜奉命往讨。两军相遇于阿撒忽秃岭，“矢下如雨，众军莫敢登，伯颜令之曰：‘汝寒君衣之，汝饥君食之，正欲效力于此时尔。于此不勉，将何以报！’麾诸军进，后者斩，伯颜先登陷阵，诸军望风争奋，大破之”。时明理帖木儿败走，伯颜以轻骑追击，斩首二千余级，俘其众以归。