灭亡西晋的民族是当时在中国北方盘踞的少数民族匈奴。
北方各族的内迁
东汉以来，分布在西、北边疆的少数民族已陆续向内地迁徙。魏晋时，西、北各少数族人民向内地迁徙的活动，更加频繁，而且种族很多，主要有匈奴、羯、氐、羌以及鲜卑五族，史称为“五胡”。
少数民族的起义
各族内迁以后，与汉人杂处，过着定居的农业生活。魏晋统治者强迫各族人民纳租调，服力役，“服事供职，同于编户”。西晋占田制明确规定了他们的租调负担。汉族的官僚、地主多以少数民族人为奴婢、佃客。残酷的民族压迫，使各少数民族的反抗不断地发生。 西晋后期，先后爆发了齐万年、李特、张昌、王如及杜弢等领导的大规模起义，其中李特之子李雄还在四川建立了“成汉”政权。
刘渊起兵
在各地流民不断起义时，内迁的少数民族上层分子也相继起兵反晋，其中刘渊、石勒起兵最早。 刘渊字元海，匈奴左部帅刘豹之子，汉化程度很深。刘豹死后，他代为左部帅，惠帝时为五部大都督。304年(永兴元年)，刘渊开始起兵。很快发展到五万人，定都于离石(山西离石)，建国号“汉”，自称汉王，“胡”、汉各族很多人归附他。渊谓群臣曰：“昔汉有天下久长，恩结于民。吾汉氏之甥，约为兄弟;兄亡弟绍，不亦可乎?”乃建国号曰汉。……追尊安乐公禅为孝怀皇帝，作汉三祖、五宗神主而祭之。《资治通鉴》卷八五。
石勒起兵
石勒出身羯族，居上党武乡。曾被卖为家奴。刘渊称汉王时，他参加起义。 311年四月，石勒在苦县(河南鹿邑)宁平城消灭十余万晋军，晋军元气大伤。六月，王弥、刘曜等攻下洛阳，杀王公以下三万余人，俘获晋怀帝。八月，又攻下长安。后来，晋将贾匹等在关中汉人的支持下夺回长安，迎司马邺为帝，是为愍帝。
316年(建兴四年)，刘曜围长安，愍帝出降，西晋灭亡。