在各地流民不斷起義時，內遷的少數民族上層分子也相繼起兵反晉，其中劉淵、石勒起兵最早。公元311年四月，匈奴首領石勒在苦縣寧平城消滅十餘萬晉軍，晉軍元氣大傷。六月，王彌、劉曜等攻下洛陽，殺王公以下三萬餘人，俘獲晉懷帝。八月，又攻下長安。後來，晉將賈匹等在關中漢人的支持下奪回長安，迎司馬鄴爲帝，是爲愍帝。316年，劉曜圍長安，愍帝出降，西晉滅亡。
匈奴是個歷史悠久的北方民族集團，祖居在歐亞大陸的西伯利亞的寒溫帶森林和草原的交界地帶，他們披髮左衽。據《史記·匈奴列傳》中記載，匈奴，其先祖夏后氏之苗裔也，曰淳維。唐虞以上有山戎、獫狁、葷粥，居於北蠻，隨畜牧而轉移。中國古籍中的匈奴是秦末漢初稱雄中原以北的強大遊牧民族。
