然而这对义父子到后来闹得大动干戈。原因是：王汗和铁木真打败了蔑儿乞人后，王汗瞒着铁木真独自将蔑儿乞人的人口、牲畜和牧地完全抢去；后来在和铁木真攻打札木合的时候没有征得铁木真同意，单独接受了札木合的投降。这为这对义父子之间埋下了祸根。同时，札木合又不断挑拨王汗和铁木真的关系，而王汗也为自己这个义子日益庞大的势力感到不安。
面对王汗的这些举动，铁木真虽然不高兴，但也无话可说。铁木真并且为了巩固与王汗的关系，还建议与王汗家结亲：他建议王汗的孙女嫁给自己的儿子，把自己的女儿嫁给王汗的孙子。遭到王汗的拒绝，两家的友谊从此一落千丈。此时正在王汗父子身边的札木合又挑拨说，铁木真正暗中勾结南部乃蛮的太阳汗，对王汗有所图谋。雪上加霜的是，铁木真的几个本家背叛了铁木真，带着各自的整个部落离铁木真而去，来到王汗这里鼓动王汗与铁木真交恶。
也许是念及当年也速该对自己的恩情，王汗本人并没有要和铁木真打仗的意思。倒是铁木真的这些本家，还有王汗的儿子你勒合‘桑昆想与铁木真较量一番。他们合计好了，派人告诉铁木真说结亲的事王汗已经答应，请铁木真来喝“许婚酒”。铁木真就带了10个随从前来。走到半路，他的一个聪明的随从蒙力克提醒他这里可能有诈，于是铁木真掉转马头回家，只派了两个随从代表自己去王汗处。你勒合，桑昆等人此时就怂恿王汗对铁木真动武。王汗听信了谗言，对铁木真发动突然袭击，将铁木真击败。
铁木真只剩得两三千人马，四处逃难，他们退到班朱泥河（蒙语，沼泽的意思）地方停驻下来。这里没有人烟，没有粮食，他们只得喝浑水止渴，射野马为食。这段时间，是铁木真在统一全蒙古过程中最艰苦的日子，所以，当他完成统一大业以后，把“同饮班朱泥河水”的人都封为功臣。
后来，铁木真一直退到贝尔湖以东的地方，他一面向王汗求和，一面利用喘息时机，收集溃军。不久，他的军事实力又恢复了。王汗却骄傲麻痹，在自己的驻地欢庆胜利。可能是铁木真派去了人对札木合与王汗的一些部族进行分头传话，成功离间了他们的关系，王汗内部不久发生了分裂。铁木真暗中派兵包围了王汗的驻地，突然发起进攻。王汗与儿子你勒合·桑昆仓皇逃走。为了让王汗父子逃得远些，王汗忠勇的大将合答勇与铁木真打了三天三夜，铁木真最终占领了王汗的金帐。王汗的一部分人归附了铁木真，另一部分人逃到了南部乃蛮太阳汗那里。王汗在侍卫的保护下逃到鄂尔浑河畔，躲过一劫。不料惊魂未定的王汗，逃到乃蛮境内的时候，却被当做强盗杀死。他的儿子你勒合·桑昆见父亲被杀，不敢去救，掉头逃到西夏，后被西夏人所逐，又逃往其他地方，最终被一个部族所杀。
铁木真在不到一年短短的时间里就彻底击败了王汗。王汗父子所遗下的地盘与人口等都归人了铁木真的旗下。他又向他的统一大业走进了一步。
铁木真击败王汗后，面前有两个敌人乃蛮部和塔塔儿人。这两个敌人一个是强大的草原部落，必须要消灭的对手；一个是和他有着杀父之仇，因此消灭他们也势在必行。铁木真开始策划吞并乃蛮的战争。1202年，铁木真全歼了残余的塔塔儿人。1204年，铁木真消灭了乃蛮太阳汗的斡鲁朵，铁木真最后逐一击溃强敌，统一了蒙古高原上的游牧部落，成为蒙古高原最大的统治者。从此，铁木真的威名震动了蒙古高原，其他部落再也不敢同他争锋了。这样，铁木真就基本完成了统一全蒙古的大业。1206年舂，各部落首领在斡难河源头召开忽里勒台（大聚会的意思），铁木真被一致推举为全蒙古的大汗，并且上尊号为成吉思汗。这一年，铁木真四十四岁。巫师进言：“如今地上称为古尔罕的各国君主都被你征服，其领土都归你治下，因此你也应该有普天下之汗的尊号。上天旨意，你的称号应为成吉思汗。”至于“成吉思”的意思则有不同解释，有说为“天赐”之意，有说为“坚强有力”之意。但近人多采用伯希和的说法，认为它源于突厥语的“海”，是大海的意思。
成吉思汗在位的时候，经常给他的几个儿子讲一个多个头的蛇和一个头的蛇的故事一个非常寒冷的夜里，为了御寒，一条多头蛇想爬进一个洞里去。可是，这条蛇身上的每一个头都想先钻进洞里去，谁也不肯相让。最终，这条蛇没有进入洞里去，而是冻死在洞口；而那个长着一个头的蛇却顺利地爬进了洞里，安全舒服地度过了冬天。成吉思汗经常用这个故事启发和教育他的儿子们，不要内部纷争，而是要听从指挥，同心协力，方能成就事业。
成吉思汗这则故事，在他选拔继承人的时候起到了作用。西夏投降后，成吉思汗到清水县的西江（今天的甘肃省清水县境内）避暑。那年的天气酷热，年老体衰的成思吉汗不幸染上了斑疹伤寒，病情一天比一天严重。成吉思汗估计自己大限已到，他在病床上开始考虑自己死后的两件大事：汗位的继承和国家的治理。其实，这个时候，在他的儿子们中间，他心里已经有了人选，成吉思汗想趁着自己清醒，赶紧把这件事情解决了。他把窝阔台、拖雷和其他儿子叫到身边，用沉重的语气说：“看来，我的病无法医治了。你们当中需要有一个人来继承汗位，治理我夺回的天下，把我们蒙古人的疆土继续扩大。”
成吉思汗又说：“窝阔台雄才大略，足智多谋，是你们当中才华最出众的一个，因此我决定让他继承我的汗位，统帅蒙古的军队和百姓，保卫国土。如果你们也想过安乐和幸福的生活，享受权力和富贵的果实，那么你们就要协助窝阔台，帮他共同治理好这个国家。如果你们个个都想当大汗，想当帝王，互相不肯谦让，那就会落个像那个多头蛇一样结果。因此，我让他继承汗位，不知你们有什么意见？”其他的儿子们异口同声地说：“谁有能耐拒绝他？我们没有权力反对您的话。”“既然如此，”成吉思汗接着说，“假如你们的愿望和你们的话，你们的口和你们的心是一致的，你们必须在我面前立下誓约：‘永远不许更改今天当着我的面决定的事情，更不许违反我的法令；我死后你们要承认窝阔台为大汗，把他的话当作肉体的灵魂。’现在家哈台还在外面征战，你们也应该让他不生叛乱之心。”成吉思汗的儿子们在成吉思汗的病榻前遵照他的决定，立下了由窝阔台继承大汗位的誓约。
成吉思汗的病情一天一天恶化。在他临死的时候，他把窝阔台、拖雷和他的手下大将叫到跟前，向他们交代了灭金国的策略：“金朝的精兵在潼关，潼关北靠大河，南据华山，我们如果正面进攻，难以一下子攻破。如果假道南宋，我们就可以避其精锐，然后从背后出兵直捣汴京。而南宋和金有世仇，南宋必能同意。汴京危机之时，金朝必从潼关调兵，而等潼关数十万兵千里赴援到汴京，人马必然疲惫，疲惫的兵马没有什么战斗力，因此，汴京一举可破。”后来，窝阔台正是采用了这一策略，取得了成功，于1234年灭了金国。1227年秋，成吉思汗在他避暑的清水县去世，终年66岁。
成吉思汗的儿子们和诸将护送成吉思汗的灵柩到大汗居住的地方。为了不走漏消息，他们沿途遇到人便杀，他们杀害了许多无辜的百姓。成吉思汗的儿子、兄弟、王臣和他们的后代，从各地陆续赶到漠北，为成吉思汗举行了隆重的丧礼。成吉思汗的遗体埋葬在克鲁伦、鄂尔浑、土拉三河的发源地肯特山的山谷里。