以前，匈奴最惧怕的就是秦国，于是就搬到北方，并在那里住了十多年，一直到了秦国灭亡时，匈奴才又往南迁移。
冒顿是匈奴单于头曼的太子。后来，头曼所宠爱的阏氏为他生了个小儿子，头曼便想立小儿子为太子。这时东胡部落和月氏部族都很强盛，头曼就派冒顿到月氏去当人质。
不久以后，头曼猛烈地攻打月氏，月氏想把冒顿杀掉。无奈冒顿偷了一匹月氏的好马骑上，逃回了匈奴。
头曼因此认为冒顿勇猛强壮，让他统率一万名骑兵。冒顿就为自己制作了响箭，训练部下在马上射箭，下令说：“我的响箭射出以后，不一齐射向目标的人，斩首！”然后冒顿就用响箭射他自己骑的好马，接着又射他宠爱的妻子，手下的人有不敢跟着射箭的，都被斩首了。最后冒顿又用响箭射头曼骑的好马，他手下的人也都跟着放箭射单于的马。冒顿认为这些士兵可以用了，便在跟头曼出去打猎时，用响箭射头曼，他手下的人也跟着响箭一起射头曼，就把头曼杀死了。冒顿又把他的后母和弟弟以及大臣中不服从他的人全部诛杀，自己立为单于。
东胡听说冒顿立为单于，就派出使者对冒顿说：“我们想得到头曼当单于时的千里马。”冒顿向群臣询问，群臣都说：“那是匈奴的宝马，不能给！”冒顿说：“怎么能与人相邻，却舍不得一匹马呢！”于是就把这匹马送给了东胡。过了不久，东胡又派使者来对冒顿说：“我们想得到单于的一位阏氏（单于妻子的称号）。”冒顿再次询问左右群臣，群臣都愤怒地说：“东胡太过分了，竟敢索求阏氏，请发兵攻打它！”冒顿说：“怎么能与人相邻，却舍不得一个女子呢！”就选取了自己所宠爱的阏氏送给东胡。
东胡王越来越狂妄。在东胡与匈奴之间，有一块被丢弃的土地，无人居住，方圆一千多里，双方各自占据了地的一边，用来设立戍守的哨所。
东胡又派出使者对冒顿说：“这块无人居住的土地，我想得到它。”冒顿还向群臣询问，群臣中有人说：“这是块荒地，给他们也行，不给也行。”谁知冒顿却大发雷霆，说：“土地，是国家的根本，怎么能给别人呢？”就把那些说可以给的人都杀了。冒顿骑上战马，下令说：“都城里有晚出发的人，斩首！”然后立即率领军队攻打东胡。东胡一开始特别看不起冒顿，没有设防，冒顿因此就灭掉了东胡。冒顿凯旋之后，又往西进攻月氏，将月氏赶跑；往南兼并了居住在黄河以南的娄烦、白羊二王的领地；随后入侵燕、代地区，重新收复了当年被蒙恬夺取的全部匈奴旧地，并夺取了原来中原控制的一大片土地。
与此同时，正是汉军和项羽相互对峙之时，中原正在经受着战争的折磨，伤痕累累。这也正是冒顿能够强大起来的好机会，且他又有能弯弓射箭的士兵三十多万所以乘势收复了周围的各个小国。