秦统一中国后，为消除匈奴对中原的威胁，秦始皇派大将蒙恬率大军10万北征。秦军击败匈奴后，在今河套以南地区(即今内蒙古鄂尔多斯高原与陕北地区)设置了44个县，并移民实边，从内地强征刑徒到“河南地”屯垦。第一个在史籍中留下名字的匈奴首领是头曼，学者们一般认为头曼这个名字是突厥语Tumen，意为“万”，或“万户”。匈奴的首领称为单于。
　　头曼单于无法抗御强大的秦军，只得率众北徙。蒙恬死后，秦朝大乱，诸侯并起叛秦，被强征戍边的士卒纷纷逃走。头曼单于乘机南下，重新夺取“河南地”。    
　　匈奴单于的配偶称为阏氏，一般有好几位。头曼单于之子名冒顿，原先被立为储君。后来头曼单于所钟爱的阏氏生了少子，头曼遂有心废冒顿，而改立少子。大约是废长立幼不合规矩，头曼没有明目张胆地废黜冒顿，打算用心计除去冒顿。当时匈奴的东邻是东胡，西邻是月氏，都十分强大。头曼与月氏结盟，把冒顿作为质子送到月氏。质子实际上是人质，以保证结盟的可靠性。一旦匈奴背盟，月氏就有权杀死质子。头曼把冒顿送到月氏为质以后不久，就发兵进攻月氏。月氏大怒，欲杀冒顿。冒顿得讯后盗得月氏宝马逃归匈奴。
　　冒顿逃归后，头曼对他的勇气十分称赞，让他统领1万名骑兵。冒顿决心杀父篡位。为了实现这个目标，必须使军队绝对服从其指挥。冒顿制作了一种鸣镝，命令练习骑射时均以他的鸣镝为号。鸣镝所射的目标就是诸军射杀的目标，有不从者斩。
　　在围猎鸟兽时，冒顿常发鸣镝。凡不按他指示的目标发矢者，不论如何精于骑射，立斩不赦。为了考验部下对自己的号令是否听从，有一次冒顿突然以鸣镝射向自己的宝马。冒顿的左右随从中有些人知道这匹马深受冒顿喜爱，恐号令有误，不敢随而射之。冒顿为严格军令，竟杀死了那些不敢射的随从。后来，他又安排了一次考验。他竟把鸣镝射向自己的爱妻，左右随从中虽知鸣镝所指便是目标，且有过上次的教训，但毕竟这次目标是首领的爱妻，结果又有一些随从不敢放箭。冒顿没有宽恕这些仁慈的随从，下令把他们处决。
　　经过这样严格而非人道的训练，冒顿的部下终于明白，鸣镝便是冒顿号令诸军的信号，而鸣镝所指则是冒顿必杀的目标；无论是谁都不例外。任何人只要敢于怀疑鸣镝所指目标是否正确，便被视为违背军令，引来杀身之祸。
　　过了些时候，冒顿再一次把鸣镝射向自己所心爱的马。众将立刻一同发矢把这匹马射死。这次考验使冒顿知道，自己的部下成了一支有令必行、有禁必止的可靠的军事力量。现在他所需要的只是机会了。
　　匈奴人除了放牧以外，也常狩猎。狩猎既是谋生的手段，又是演习骑射技艺的机会。冒顿把杀父自立的念头埋藏得很深。虽然他一直在暗暗地准备起事，但却一点风声也不露。头曼对冒顿的异心也未警觉。当头曼召冒顿随同他一起出猎时，冒顿的机会终于到来了。他在狩猎途中突然把鸣镝射向自己的父亲，而他的部下毫不考虑这次鸣镝的目标是匈奴的最高首领，竟一起随鸣镝发箭射之，使头曼单于死于乱箭之下。杀死头曼单于之后，冒顿立即夺取了匈奴的统治权。为根除后患，他下令除去那位头曼单于所心爱的阏氏及其所生之子。诸大臣凡不听命者，也尽数杀之。
　　东胡听说冒顿杀父自立以后，派人出使匈奴，以武力胁迫匈奴把头曼单于的千里马送给东胡。冒顿召集群臣问计，诸将均以为头曼的千里马是匈奴的宝马，宁与东胡绝交也不能交出。冒顿不同意这种意见，认为保持与东胡的睦邻关系远比一匹宝马重要，遂下令把头曼单于的宝马送给东胡。
  　东胡得到匈奴的宝马后，以为匈奴惧怕自己，又提出要匈奴单于的阏氏。冒顿又召集群臣商议。诸大臣都很愤怒，认为不能答应东胡的无理要求。冒顿仍然认为用一名女子换取与东胡的和平是值得的，遂把这位阏氏送给东胡王。
　　东胡王把匈奴的忍让视为软弱可欺，举兵西侵。东胡与匈奴之间有大片空旷土地，广约干余里。东胡王要求匈奴承认这片弃地属于东胡。冒顿向群臣征求意见，大臣们均认为此地处于两国之间，不涉及匈奴根本利害关系，给不给东胡无关紧要。冒顿大怒，认为土地是国家的根本，如何能轻易让人。遂下令处决主张放弃这片土地的大臣，立即出兵征讨东胡。东胡王轻视匈奴，没有防备，被冒顿一举击破。匈奴掳获了大批人民畜产，变得强盛起来。
　　冒顿利用秦汉之际中原大乱的机会，集中力量先击败月氏，然后南并楼烦，又重新占领蒙恬设县的“河南地”，拥有“控弦之士”30万，成为威胁中国北方的强大武装集团。冒顿单于的故事在司马迁的《史记?匈奴传》中有详细的描述，它向我们展现出一幅匈奴的风俗图。头曼单于在谋杀自己的儿子冒顿时毫不怜悯，而冒顿在计划复仇时对自己的生身父亲亦无眷恋之心；而冒顿单于为了训练部下，不惜以自己的爱妻为靶子；这一切都说明在匈奴的显贵家族中，与王权相比较，亲情显得很淡薄。匈奴贵族虽然钟爱好马、美女，但对立国之本—土地和牧场却更为看重。匈奴贵族对自己部下有生杀大权，匈奴将领用鸣镝指示目标的办法在战场上号令着诸军。