在平灭太平天国的战争中，有三支地方官员武装起了重要的作用，也一直是清廷用兵的主力，分别是曾国藩的湘军、李鸿章的淮军和左宗棠的楚军，这其中势力最大的莫过于湘军，湘军最盛时达到十多万人。曾国藩组建湘军，有一套自己的管理方法，制定了“兵由将招”的招募制度。湘军大体上仿照明朝戚继光的营制，以营为基本单位，直接受“大帅”统辖。湘军将领主要是湘乡人，大多是封建儒生，士兵则招募湘乡一带农民。曾国藩与一些重要将领既是同乡，又有同学、师生、亲友的关系。湘军的士兵由营官自招，并只服从营官，上下层层隶属，全军只服从曾国藩一人。并制定“辨等明威”的军礼，以儒家三纲五常的礼教、尊卑上下的等级制度与同乡共里的乡土观念维系官兵，使湘军成为一支有力地维护封建统治的军队，也成为曾国藩手中牢牢掌握的一支军队。
湘军在与晚清的各地农民起义军作战中迅速成长，湘军将领及其幕僚成为当时中国政治、军事舞台的主角。湘军消灭了太平天国，还参与镇压了各地的其他起义，挽救了清王朝，但其半私人武装的性质注定了清廷绝不会对它放心。整个湘军系统中位至总督者15人，位至巡抚者14人，其他大小文武官员不胜数。但随着太平天国的灭亡和各地农民起义的相继失败，这些手握兵权不听部臣指令的督、抚，成为了清廷的心头之患。湘军攻破天京后，随即展开了一场疯狂的烧杀、掠、淫的大屠杀，这样的所为不仅使得天怒人怨，也让清廷下定决心将湘军裁撤。
不久后，为了制衡曾国藩，清廷采取了两方面的措施：一方面迅速提拔和积极扶植其他湘军将领，特别是那些与曾国藩关系不好的人，比如左宗棠、沈葆桢等，造成湘军内部的分裂和对立，并大力扶植李鸿章的淮军;另一方面则大力打击曾国藩的嫡系曾国荃等人，将其所部调任，分割，以弱其势力。曾国藩死后，湘军逐渐缺少了灵魂人物，逐渐势弱，并进一步被分化调离。后来， 湘军主要分成了三部分，一部分军队裁撤，一部分随左宗棠参加收复新疆之战，还有一部分留驻各地成为防军，并逐步取代原有的八旗、绿营而成为清朝的常制军队。之后随着清王朝的最终覆灭，曾国藩创建的湘军也就此隐没在了历史的长河之中。