西晋末年，发生了一起皇族为了争夺中央政权而引发的内乱，史称“八王之乱”，这场内乱耗尽了西晋的国力，直接导致了之后的“五胡乱华”，以及西晋的灭亡。“五胡”主要指匈奴、鲜卑、羯、羌、氐五个胡人大部落，他们在百余年的时间在中国北方建立了数十个少数民族政权，大肆屠杀汉人，堪称汉民族的灾难。
“五胡乱华”是由匈奴和氐族拉开序幕的，公元304年，趁“八王之乱”，氐族首领李雄占成都，自称“成都王”，史称成汉(304-347年)。匈奴贵族刘渊起兵于离石，史称前赵又称作汉赵(304-329年)。
316年“前赵”大将刘曜带兵攻打西晋，晋愍帝投降，西晋灭亡。319年刘曜自立为帝，与此同时曾归附于前赵的羯族首领石勒也称赵王，二人瓜分“前赵”领土，公元329年石勒灭前赵，330年石勒称帝(史称后赵)。
公元337年，辽东鲜卑贵族慕容皝自立为燕王，名义上虽为东晋的诸侯国，但实际上却拥有绝对的自治权，并与342年击败了后赵的二十万大军，为慕容家族日后入主中原打下基础。
350年“后赵”发生内乱，冉闵夺取政权，改国号为魏，史称“冉魏”，后赵灭亡。冉闵曾因颁布“杀胡令”挽救了北方汉人免受灭亡的命运。352年慕容家族南下，击杀闵冉，灭亡冉魏，慕容儁脱离东晋自立为帝，国号“燕”，史称“前燕”。
前燕建立的同时，后赵的氐族将领苻健，攻占长安，建立“前秦”，至此中国北方中原地区的主要政权只剩下前秦，前燕，前凉，代。
370年“前秦”皇帝苻坚趁“前燕”政局不稳，出兵灭前燕，擒皇帝慕容暐，前燕灭亡，随后又消灭了前梁，代，等少数民族政权公元376年前秦基本统一了中国北方地区，和南方的东晋形成了新的对峙局面。
公元382年，苻坚亲帅百万大军准备南下灭晋，一举统一全国，于是发生了中国历史上著名的以少胜多的战例“淝水之战”，此战后前秦元气大伤，原先归顺的少数民族政权纷纷自立，384年原降于前秦的羌人贵族姚苌在渭北叛秦，建立“后秦”，同一年慕容家族再次建立了后燕，西燕。386年拓跋珪重建代国，称魏王，史称“北魏”。
北方地区再度陷入混战，394年后燕灭西燕，395年后燕被北魏击败，领土一分为二，分裂为西燕和南燕此后一蹶不振。与此同时北魏逐渐强盛，398年拓跋珪正式称帝。
398年东晋灭南燕，407年冯跋夺后燕政权建立北燕，417年东晋刘裕率大军灭后秦，436年北魏灭北燕，439年北魏灭北凉再次统一中国北方。“五胡十六国”时期宣告结束。而早在420年，南方的东晋也被刘裕夺权，建立了宋朝，史称“刘宋”，中国历史上另一个大分裂时期，“南北朝”拉开序幕。