五胡乱华时期，中原大地是四分五裂，不过当时出现了一位比较出色的将军，他的名字叫苻坚，苻坚也有自己的政权，他的政权是前秦，苻坚经过自己的努力，将一些小的政权吞并，北方地区获得统一。
公元383年，苻坚率领百万大军开始南征，苻坚的战略目的是将东晋灭掉，进而统一全国。虽然苻坚号称自己是百万大军，其实，前秦是有名无实，当时的前秦已经面临很多问题了，苻坚吞并的小政权，虽然表面上臣服于前秦，其实都在寻找自立的机会。
最后苻坚和东晋展开了历史上著名的淝水之战，后苻坚大败，北方很多被苻坚吞并的小政权，这时候找到了独立的机会，于是纷纷脱离前秦，强大的前秦解体。当时，各个小的政权如雨后春笋，姚苌建立后秦，慕容泓建立西燕，苻坚在战败后，他自己回到了北方，不过最后被后秦的姚苌杀害了。
就在前秦解体的时候，苻坚手下还有一个将军在外面征战，而且他西征过程中，还取得了不小的战绩，就在这位将军回国的途中，他知道自己的祖国前秦已经没有了，于是这位将军没有再回自己的祖国，在当地建立了一个新的国家。
这个将军的名字叫吕光。史书记载，吕光是吕雉家族的后裔，因为当年吕家全被汉朝人杀害，而吕光的祖父吕文幸免一难，最后逃亡到西域才得已存活下来，他们吕家和当地人通婚，在当地形成了一个强大的部族。根据《晋书》的描述，吕光天生就和别人不一样，他身高八尺多，而且生下来左肘上还有肉印，其实就是胎记，这种生下来就不一样的人，注定以后是建功立业的。(古人都是这么认为的)
后来吕光就跟着苻坚一起打仗了，吕光跟随了苻坚二十多年，苻坚统一北方，吕光功不可没。公元382年，西域很多小的政权来朝见前秦的苻坚，他们都表示臣服苻坚，于是苻坚让吕光担任经略西方的主帅，率领七万步兵前去西域经营，维护当地治安，铲除敌对势力。
在将西域很多军务都完成后，吕光便回前秦了，可是当吕光行军到高昌的时候，得知苻坚已经在淝水之战后被杀了，于是他随机应变，将西域各国降伏，并在当地建立政权。当时吕光到到凉州的时候，凉州的刺史梁熙要打吕光，结果梁熙被吕光击败，吕光也就驻扎在了凉州。
吕光在凉州让三军为自己的国君苻坚服丧，在给国君服完丧后，他自己给了自己很多称号，并废除了前秦的年号，自己建立新的国家。这个国家也就是吕光在389年建立的后凉政权，而他自己也改称三河王，到395年的时候，后凉达到了全盛，国土面积有217万平方公里，不过这个国家存在的时间并不长，399年吕光死了，403年吕光建立的后凉就败亡了。