司马越既死，众人推王衍为元帅，王衍不知所措，推让于襄阳王司马范，司马范也不敢接受，军中无人主事，乱作一团。他们置洛阳安危和怀帝的死活于不顾，扶司马越的灵柩回东海国，一二十万大军跟着向东逃跑。石勒闻报，立刻率轻骑追到苦县（今河南鹿邑东）、大败晋军，然后又指挥骑兵围攻晋军，乱箭齐发，晋军将士相互践踏，尸积如山，几无幸免者。王衍、司马范等王公贵族都束手就擒，石勒令对司马越剖棺焚尸，以示惩罚。又与王衍见面，王衍陈说西晋祸乱的原因，一再诉说自己不预政事，与己无关。为求活命，王衍劝石勒称帝。石勒怒喝道：“你名重天下，身居要职，且是少年登朝，直至白首，怎么能说不预政事？破坏天下，正是你的罪恶！”当晚，石勒派人推倒王衍等人住处的墙壁，把他们埋在残垣断壁里。
在洛阳危难中，荀晞曾建议迁都仓垣，又派兵迎搂怀帝，由于潘滔阻拦，也由于近臣贪恋洛阳财产，迁都没能实现，只能困守愁城。待到洛阳陷入绝境，宫廷侍卫或死或逃，没剩下几个人，车子也没有一辆。在几十名官吏的陪同下，怀帝步行走出宫门，准备逃离洛阳，一行人刚刚走到铜驼街，突然遇见一群拦路抢劫的饥民，只得退回宫中。七月，汉军呼延晏、刘曜、石勒、王弥等攻陷洛阳，俘获怀帝。汉军大肆烧杀掠夺，官吏百姓死者三万多人，城内一片大火，宫庙、官舍化为一片废墟。
汉帝被俘虏到平阳（今山西临汾），在他被杀之前，西晋各地的残余势力纷纷建立临时朝廷。司徒傅祗首先在洛阳建立行台，接着司空荀藩也在密县建立行台，奉秦王司马业为主，后徙屯许昌。同时，荀晞拥豫章王司马端为皇太子，而自命都督中外诸军事、录尚书事并在仓垣建行台，稍后，幽州王浚又立一个皇太子，这些临时朝廷的创立者或有复兴晋室的忠心，或有取代晋室的野心，但都维持不长。傅祗征兵四方，久候不至，自己染暴疾而亡。荀藩手下无兵，依赖阎鼎控聚的数千流民，反受阎鼎所制，荀晞骄奢苛暴，部众离叛，加上疫病饥馑，不久被石勒打败，他与司马端都当了俘虏。王浚局促于幽燕，调役繁重，属下不堪其命，鲜卑、乌桓都叛逃而走，兵势不断削弱，他所立的皇太子也莫名其妙地失踪了。
永嘉五年（311年）九月，刘曜占领长安，杀死守将南阳王司马模，其时关中诸郡，“百姓饥馑，白骨蔽野，百无一存”。晋安定太守贾疋，冯诩太守索，安夷护军鞠允，率领州刺史鞠特、扶风太守梁综合兵十五万围攻长安，屡败刘曜，刘曜不得不放弃长安，驱掠关中男女八万口退还平阳。时值阎鼎裹胁秦王司马业入关，贾疋迎之入居长安，立为皇太子。不久，贾疋战死，朝中诸将因争权大动干戈，阎鼎杀死梁综、鞠允、索等，又攻阎鼎，阎鼎出奔被杀。永喜七年（313年）五月，怀帝死讯传到长安，司马业继位为帝，他就是西晋的末代皇帝愍帝。这位13岁的皇帝即位时，“长安城中，户不盈百，蒿棘成林，公私有车四乘，百官无章服、印绶，唯桑版署号而已”。
鞠允在关中辅佐愍帝，艰苦地坚持了三年多，经常遭到刘聪、刘曜的攻击。建兴四年（316年），刘曜又攻入关中，进围长安。长安城中大饥，米一斗值黄金二两，人相食，死者大半。太仓中只余面饼数十个，鞠允磨为粉屑，熬粥以供帝室，很快也吃光了。十一月，愍帝出降刘曜，被送到平阳，次年被杀，西晋灭亡。
少数民族的内迁
东汉末年至十六国时期少数民族大规模内迁，内迁的民族主要有匈奴、鲜卑、乌桓、羯族、羌族、氐族、賨人。
匈奴是生活在大漠草原上的一支游牧民族。秦汉之际冒顿为匈奴单于，相继征服了东至辽水、西达西域，北抵贝尔加湖、南邻长城的广大地区。东汉建武二十二年（46年），蒙古草原发生大旱灾，赤地千里，匈奴分裂为两支，一支为北匈奴，向西方迁移，一支为南匈奴依附东汉，居于五原郡（今内蒙古自治区五原县境内），后来又逐渐南移，集中到并州北部的汾河流域。建安十一年（206年），曹操打败袁绍的外甥、并州刺史高于，取得并州后，命梁习为别部司马领并州刺史。梁习到并州后，采取恩威并济、软硬兼施的办法使匈奴“单于恭顺，名王稽颡、部曲服事供职，同于编户”，匈奴归附了曹操。
建安二十一年（216年），匈奴呼厨泉单于入朝，曾操将其留于邺城，遣右贤王去卑归离石监国，将匈奴分为五部，各立匈奴贵族为帅，选汉人为司马监督之，其左部统万余落居于兹氏（今山西汾阳），右部统六千余落居于祁（今山西祁县），南部统三千余落居于蒲子（今山西隰县），北部统四千余落居于新兴（今山四忻县），中部统六千余落居于大陵（今山西文水县）。
西晋武帝即位初，塞外匈奴大水、塞泥、黑难等二万余落归化。晋太康五年（284年），匈奴太阿厚率其部落29300人归附，太康七年（286年），又有匈奴胡都大博及萎莎胡等各率种类大小凡十万余口降附。次年，又有匈奴都督大豆得一育鞠率种落大小11500口、牛22000头、羊105000口归附。
魏晋以来内附的匈奴有屠各、鲜支、寇头、赤勒等十九种。匈奴在魏晋时期的分布地区，北起塞外，以及朔方（郡治在今内蒙古杭锦旗北）、五原（郡名，在今内蒙古自治区五原县）、云中（郡名，治所在今内蒙古托克托东北）、定襄（郡名在今山西右玉县南）、雁门（在今山西代县西）诸边地，南至平阳（郡名，治所在今山西临汾市）、西河（郡名，在今山西离石县）、上党（郡名，在今山西长子县）、乐平（郡名，在今山西昔阳县西南）等广大地区。
乌桓是居住在今大兴安岭以东地区的一支少数民族，属东胡一支。西汉时南下至西喇木伦河及其以北地带。汉元狩四年（前119年），西汉骠骑将军霍去病击败匈奴后，乌桓被西汉政府徙于上谷（今河北怀来县南）、渔阳（今北京市密云县西南）、右北平（今辽宁凌源县西南）、辽东（今辽宁辽阳市北）、辽西（今辽宁义县西）五郡塞外，为汉侦察匈奴动静。建武二十五年（49年），乌桓内徙到缘边诸郡塞内。到东汉灵帝初（168—189年），乌桓大致分为四部，上谷所部九千余落，由难楼统治；辽西所部五千余落，由丘力居统治；辽东所部一千余落，归苏仆延统治；右北平八百余落，由乌延统治，皆自称王。
初平元年（190年），乌桓蹋顿总摄辽西、辽东、右北平三郡乌桓，成为部落结合体的军事领袖。建安十二年（207年），曹操自征蹋顿于柳城（今辽宁朝阳县南），临阵斩杀蹋顿。此后，三郡乌桓主要分布于幽、并境内，不断融化于汉族。留在塞外的乌桓则逐渐同化于鲜卑，北魏以后也渐渐同汉族融合。
鲜卑祖居大兴安岭北部的鲜卑山。“鲜卑自为冒顿所破，远窜辽东塞外，不与余国争衡，未有名通于汉，而犹自与乌丸相接”。到汉武帝时内徒乌桓，鲜卑遂西移，填充了乌桓原住地西喇木伦河流域，但这时鲜卑同西汉政府仍无政治上的联系。到了东汉时，鲜卑开始同汉政府发生关系。建武二十五年（49年），乌桓内迁到缘边诸郡，鲜卑势力也逐渐南迁近塞，与东汉政府“始通驿使”。到建武三十年（54年），鲜卑大人仇贲率种人诣朝贡，东汉封仇贲为王，以后鲜卑迅速向蒙古西部、中部地区发展。这时，鲜卑族属内涵上出了很大的混杂，其中拓跋鲜卑部由洁汾率领经过“九难八阻”，由呼伦池周围迁至匈奴冒顿发迹的阴山一带，同时被汉军打败的北匈奴继续留在阴山一带与鲜卑杂处，自号鲜卑。
到东汉桓帝时，鲜卑各部推檀石槐为军事首领，组成檀石槐军事结合体，檀石槐建庭于弹汗山（今河北尚义县大青山）歠仇水（今东洋河）上，有控弦之士十万，“南钞汉边，北拒丁零，东却夫余，西击乌孙，东西万二千里，网罗山川水泽盐池基广”。檀石槐死后。鲜卑军事结合体瓦解，形成三股比较强大的势力，一股为步度根，分布在并州的太原和雁门等郡，归附曹魏，二为轲比能，分布在代郡、上谷等地，对曹魏时叛时附，三为东部鲜卑素利、弥加、厥机等，分布在辽西、右北平、渔阳塞外。三股力量中，轲比能最强。轲比能拥有“控弦十万余骑”，控制地区从云中（今内蒙古托克托县东北）、五原（今内蒙古五原县）以东至于辽水，成为塞上的一支强大的势力。轲比能以后，鲜卑人又有了新的组合，并继续向中原地区推进。其中鲜卑慕容氏、宇文氏及鲜卑段氏向辽水流域推进。拓跋氏由西逐渐向中部转移，以后又从内蒙古地区向山西、河北地区推进，拓跋氏的支族秃发氏居河西走廊，与陇西鲜卑乞伏氏向西北部推进，慕容氏的另一支族吐谷浑居于青海草原。十六国时，慕容氏建前燕、西燕、后燕、南燕。鲜卑化的汉人冯氏建北燕，秃发氏建南凉，乞伏氏建西秦，吐谷浑建河南国，拓跋部建代国。
羯族，是随匈奴入塞的少数民族，羯人高鼻、深目、多须，崇信火袄教，可能是匈奴控制的西域人，故称“匈奴别部”，入塞后，居于上党武乡（今山西长治北），后分布于太行山一带。
西羌居于青海草原，其种类很多，有研种、烧当、先零、白马等。西汉宣帝和元帝时，西羌进攻甘肃一带，为汉军击败。东汉时马援破先零羌，徙其羌人于天水、陇西、扶风三郡。内徙羌人与西汉政府交往密切，其社会结构和民族特征都发生了重大变化，所以一般将这部分羌人称为东羌。东汉从建武十年（34年）到延熹八年（165年）一百多年内，羌族大规模的内徙有二十九次。羌族内徙大体有三种情况，一种是西羌豪酋主动请求内属；第二种是西羌豪酋进犯内地，西羌人在战争中被俘或投降，自东汉安帝以来羌人对东汉发动了三次大规模的战争；第三种是汉军出塞进攻羌人，降俘入塞，羌人的内徙一直持续到西晋。到西晋时期，内徙羌人主要分布在今陕西南部、西南部以及甘肃境内，十六国时羌族姚氏聚集族人在关中建立后秦国。
氐族，原分布在西起陇西、东至略阳、南达岷山以北的地区，汉武帝时开益州，置武都郡（郡治武都，今甘肃成县西），这时氐人开始成为汉王朝的编户齐民。元封三年（前108年），发生了氐人反叛事件，汉武帝出兵平定了叛乱，并将氐人强徙至酒泉郡。东汉末年，仇池（山名，在今甘肃西和县西南）杨氐和兴国氐王阿贵为氐族最强大的部落，杨氐酋长杨千万，辖地百顷，称百顷氐王，同兴国阿贵各有部落万余。杨千万同阿贵与陇西马超联合对抗曹魏政权。建安十九年（214年），曹操令夏侯渊出兵征讨，阿贵被攻灭，杨千万逃入蜀地。曹魏将被征服的氐人徙于扶风一带。以后曹魏又先后两次进攻氐人。后来，曹操又徙氐人五万余落于扶风、天水，魏黄初元年（220年），武都氐杨什率部众内附，居汉阳郡。正始元年（240年），郭淮徙氐人三千余落于关中。十六国时期，氐族部落酋长苻氐建前秦国。苻坚失败后，又有略阳氐吕光建后凉国。
賨人，亦称巴人，主要居于四川嘉陵江上游，巴人常执板楯作战，因此也称板楯七姓。秦汉以来，巴人已分列郡县。东汉末年，益州牧刘璋发汉昌（今四川巴中县）賨民为兵，以抗拒张鲁。曹操破张鲁后，张鲁逃走巴中，依附板楯七姓。以后张鲁投降曹操。賨人夷王朴胡、賨邑侯杜漤等賨民降附曹操，曹操以朴胡为巴中太守、杜濩为巴西太守，任约为巴郡太守。后朴胡为刘备部将黄权所败，曹操又徙賨民于汉中，以后曹操准备撤离汉中，又把汉中的賨民全部迁移到略阳、天水一带。
刘渊起事
刘渊字元海，匈奴人，居新兴（今山西忻州），南匈奴单于于扶罗之孙、左贤王刘豹之子。刘豹为五部之左部帅，刘豹死后，刘渊代为左部帅。晋太康十年（289年），晋武帝以刘渊为匈奴北部都尉。刘渊自称是匈奴冒顿之后裔，少年很爱读书，曾以上党名士崔游为师，遍读五经、史书，汉化程度很高。刘渊作了五部帅后，推诚接士，乐善好施，五部俊杰和幽冀名流都纷纷拜访。成都王司马颖镇邺后，又封刘渊为行宁朔将军，监五部军事。
其时，由于中原战乱，并州境内的汉族居民大多流徙江南，胡汉势力发生了重大变化，于是刘渊的从祖父刘宣同宗族策划，举兵反晋，“兴邦复业”。刘宣说：“昔我先人与汉约为兄弟，忧泰同之。自汉以来魏晋代兴，我单于虽有虚号，无复尺士之业，自诸王侯，编同编户。今司马氏骨肉相残，四海鼎沸，兴邦复业，之此其时也。左贤王元海姿器绝人，英武超世，天若不恢崇单于，终不虚生此人也”。当时并州刺史司马腾同安北将军王浚正联兵攻击司马颖，司马颖想请刘渊为外援，于是又拜刘渊为北单于，刘渊假称回并州招募五部匈奴，遂返左国城（今山西离石县），刘渊回到离石后，诸部匈奴共推他为大单于。这时王浚联合鲜卑已攻破邺城，司马颖挟惠帝逃奔洛阳。永兴元年（304），刘渊在离石称汉王，置百官，以刘宣为丞相，崔游为御史大夫，刘宏为太尉。司马腾率军前往镇压，部将聂玄与刘渊战于大陵（今山西文水县），聂玄大败，司马腾大为恐惧，遂率并州三万余户到山东，刘渊乘胜进军，接连攻下泫氏（今山西高平县）、屯留（今山西长子县），中都（今山西太原市）。
永兴二年（305），司马腾再次出兵讨伐刘渊，部将司马瑜、周良等驻军于汾阳，刘渊派武牙将军刘钦等阻击司马瑜，四战四胜，刘钦大胜而还。这年离石发生大饥荒，刘渊派太尉刘宏、护军马景等守离石，自率大军驻上党壶关（今山西壶关县）。
次年，司马越为太傅，上表要求封原并州刺史司马腾为东燕王，以刘琨为并州刺史。当时，并州由于饥荒与战乱，百姓难以生存，吏民万余人由李恽等领，随司马腾流亡冀州，留在并州的居民不足二万。刘琨到并州后，只好到上党组织军队，在那里招募五百人，又遭到刘渊部将刘景的攻击，上党无法立足，遂转战至晋阳（今山西太原市南郊区）。刘渊汉国在并州日益强大，中原起事的汲桑、王弥、石勒以及鲜卑逐延等纷纷归降刘渊，在并州迅速形成了各族人民共同反晋的巨大浪潮。
永嘉二年（308），刘渊正式称帝，迁都平阳（今山西临汾市西北），国号汉。刘渊建国后，宗室刘氏以亲疏远近按等级都封郡县王，异姓以谋谟、战功依次分为郡县公侯，以刘宣为丞相，刘聪为大将军，刘宏为太尉，刘和为大司马，刘欢乐为大司徒，呼延翼为大司空，呼延攸为宗正。
永嘉四年（310）正月，刘渊立单征女为皇后，梁王刘和为皇太子，封子刘夐为北海王，长乐王刘洋为大司马。同年七月，刘渊病重，又以陈王刘欢乐为太宰，刘洋为太傅，楚王刘聪为大司马、大单于，不久刘渊病死，由太子刘和即位，刘渊第四子刘聪杀刘和自立，改元光兴。刘聪以刘夐为皇太弟，兼大单于、大司徒，立呼延氏为皇后。
皇太后单氏为刘夐之母，刘聪与她私通，刘夐很是不满，单太后郁愤而死，刘夐与刘聪产生矛盾。永嘉五年（311）。刘聪派刘曜、王弥、石勒进攻洛阳，石勒先在苦县（今河南鹿邑县）的宁平城（今河南郸城县东北三十五里），将司马越率领的西晋主力部队十万余人全部消灭。接着刘曜、王弥、石勒、呼延晏合兵攻洛阳，迅速攻占洛阳，俘晋怀帝司马炽，迁至平阳。