在东汉初年，匈奴就大量进入塞内。46年前后，匈奴国内发生严重的自然灾害，人畜饥疫，死亡大半。而统治阶级因争权夺利，发生分裂。48年，匈奴八部族人共立呼韩邪单于之孙日逐王比为单于，与蒲奴单于分庭抗礼，匈奴分裂为两部。后日逐王比率4万多人南下附汉称臣称为南匈奴，被汉朝安置在河套地区。而留居漠北的称为北匈奴。
留居漠北的北匈奴，连年遭受严重天灾，又受到南匈奴、乌桓、鲜卑的攻击，退居漠北后社会经济极度萎缩，力量大大削弱，多次遣使向东汉请求和亲。其一怕东汉北伐，其二想挑拨破坏东汉与南匈奴的关系；其三想在西域抬高自己声望??其四想通过和亲与东汉互市交换所需物资。东汉政府没有答应和亲，仅同意双方人民互市。北匈奴从65年至72年不断入侵东汉渔阳至河西走廊北部边塞，随着东汉的政治稳定和经济得到恢复发展，国力增强，在南匈奴的支持下，开始了征伐北匈奴的战争
73年二月东汉派窦固等四路大军出击，占据伊吾卢城（今新疆哈密）。同年，派班超通西域南路鄯善国，75年至76年汉匈之间对西域展开了一场争夺战，窦固、耿恭击败呼衍王和左鹿蠡王，占车师、争夺金满城，因汉明帝死，中原大旱，人民负担太重，暂时罢兵。83年至85年北匈奴人先后有七十三批南下附汉，加上南匈奴攻击，北匈奴力量大大削弱。87年鲜卑从东部猛攻北匈奴，杀死优留单于。
优留单于死后，北匈奴大乱，漠北又发生蝗灾，人民饥馑，内部冲突不断，北匈奴内部危机连连。东汉乘此时机，于89年到91年与南匈奴联合夹击北匈奴。
89年（东汉永元元年）夏六月开始，窦宪、耿秉率军与南匈奴军队在涿邪山会合（今蒙古国满达勒戈壁附近），与北单于战于稽落山（今蒙古国额布根山），北单于大败逃走，汉军追击，俘杀一万三千余人，北匈奴先后有二十余万人归附。窦宪、耿秉登燕然山（今蒙古国杭爱山）刻石纪功而还。明年再出击北匈奴，北单于受伤逃走。91年东汉军又出击金微山（今阿尔泰山）大败北匈奴军，北单于迫使其西迁，率残部西逃乌孙与康居。
94年，南匈奴单于师子立。新降的北匈奴部众对单于师子不服，在同年，十五部二十几万人皆叛变，胁迫前单于屯屠何之子奥鞬日逐王逢侯为单于，匈奴再次分裂，东汉派遗大军以及乌桓、鲜卑兵共四万人大败逢侯，逢侯遂率众出塞，汉军追赶不及。107年，逢侯趁东汉放弃西域之际，控制西域，胁迫诸国共同搔扰东汉边疆十几年。118年，逢侯被鲜卑击败，率领百余人投靠东汉。
在91年北单于战败后，率残部西逃至伊犁河流域的乌孙国，在其立足后，仍然出没于天山南北，实施掠夺。119年，北匈奴攻陷了伊吾，杀死了汉将索班。为了对付西域的北匈奴，东汉朝廷任命班勇为西域长史，屯兵柳中，班勇于124年、126年两次击败北匈奴，西域的局势开始稳定。在班勇离职后，北匈奴势力又重新抬头，汉将斐岑于137年率军击毙北匈奴呼衍王于巴里坤，151年，汉将司马达率汉军出击蒲类海，击败北匈奴新的呼衍王，呼衍王率北匈奴又向西撤退。
锡尔河是中亚的内陆河，流经今天的乌兹别克、哈萨克等国，注入咸海。在汉时，这里是康居国。北匈奴在西域遭到汉朝的反击，已无法立足，大约在160年左右，北匈奴的一部分又开始了西迁，来到了锡尔河流域的康居国。至于北匈奴人在康居的活动，因为缺乏史料记载，就不得而知了。
依附汉朝的南匈奴人，被汉朝安置在河套地区。借着汉朝的军力多次大败北匈奴，接纳大量降众，势力大增。但因部族成分复杂，难以驾驭控制，造成内部不隐，时有叛乱，多位南单于被杀。而后汉朝对南匈奴的管理越加严厉。在东汉中期以后一再发生南单于被汉官员拘补、更换、逼死甚至杀害。
187年，东汉末年黄巾起义、董卓专权之际，南匈奴发生内讧，国人杀死单于羌渠，子左贤王于夫罗即位。而参与者恐被报复不认可新单于，另立一位单于，于夫罗只得前往汉朝申诉求助。正值汉末大乱，只好留在河东。195年，南匈奴参与了中原混战，东汉蔡邕之女蔡文姬被掳掠去匈奴。202年，南匈奴首领归附汉丞相曹操，蔡文姬归汉。216年，曹操拘留呼厨泉单于，而派右贤王去卑监国，并将南匈奴分成五部，安置在平阳郡，匈奴单于王朝终结。
汉化的南匈奴，一直居住在河套一带，三国时期曹操把匈奴分成五个部，即左、右、南、北、中，分别安置在陕西、山西、河北一带。各部贵者为帅，后改称都尉；以汉人为司马以监督。于夫罗子刘豹为左部帅。
东汉末年以来，周边各民族纷纷涌入中原。其中以匈奴人人数最多，史称「关中人口百余万，戎狄居半，匈汉杂居」。而西晋因贾后乱政，引起了八王之乱，混战延续长达16年之久，给予了匈奴人介入的机会。
4世纪初，于夫罗之孙匈奴族的五部大都督刘渊在成都王司马颖手下为将。乘西晋八王之乱之后的混乱时期，刘渊在并州离石起兵立汉国，称汉王，后称帝，占领了北中国的大部分地区。311年刘渊子刘聪攻占洛阳，316年攻占长安，灭西晋。318年，匈奴贵族靳准杀死刘聪子刘粲及其家族，自立为汉天王。刘聪族弟刘曜在长安称帝，改国号为赵，消灭了靳氏。因百姓负担极重，民怨沸腾，引起大规模反抗。328年，羯人石勒擒杀刘曜，次年在上邽杀其太子刘熙及其将相公卿等三千余人，赵亡。史称前赵或汉赵。
匈奴与乌桓、鲜卑的混血后代称为铁弗人。铁弗人刘勃勃被鲜卑拓跋氏击败后投奔羌人的后秦。后自认为是末代的匈奴王，改姓赫连，在河套地区创立夏国，史称胡夏。之后击败东晋军队，夺下了关中地区，以长安为都。425年赫连勃勃卒，子赫连昌继位。428年北魏俘赫连昌。赫连昌弟赫连定在平凉自称夏皇帝。431年北魏俘赫连定，夏亡。夏国的国都统万城是作为游牧民族的匈奴在东亚留下的唯一的遗迹。
融入匈奴人中的月氏人，称为匈奴别部卢水胡。其中沮渠家族推后凉汉官段业为主，在现甘肃地区建立政权，史称北凉。后沮渠蒙逊杀段业，自立为北凉主。433年蒙逊子沮渠牧犍继位。439年被鲜卑人拓跋氏北魏所灭。牧犍弟沮渠无讳西行至高昌，建立高昌北凉。460年，高昌北凉为柔然所攻灭。
融入靠近高句丽的宇文鲜卑部落的一小支匈奴，进入辽东半岛。后来宇文氏篡西魏建立的北周政权，后被隋文帝杨坚所篡。杨坚创立隋朝，统一中原。五胡乱华及南北朝时代是匈奴在中国历史舞台上进行了最后一场演出。
其后裔多生活在今天的陕西、山西、山东和福建等地。如位于江苏苏州的金氏，位于福建福安市赛岐镇宅里村的金氏，位于河南省鹤壁市的赫连氏，位于安徽省皖南东至县南溪古寨金氏，甘肃省兰州市榆中金崖镇金氏，浙江省浦江县郑宅镇后路金村金氏，山东省文登市丛氏－传说皆为匈奴金日磾的后裔。