184年(光和七年)冬，分别来自北地郡、安定郡以及金城郡、陇西郡枹罕、河关等地的两股羌人举事叛乱。最初，它们分头行动，都想趁机对抗经历数年的腐败和乱政已然衰弱的汉朝统治。后来，募来的派遣平叛的由羌人和小月氏人组成的湟中义从胡军队在令居(音Lianju，属金城郡，在今兰州西北)兵变反抗汉朝长官，加入叛军，于路杀护羌校尉冷征，事态升级。此时，两股羌人也合兵了，以原湟中义从胡士兵北宫伯玉和李文侯为将军。此次联合意味着叛军控制了兰州在黄河沿岸的条状地带。
短短几周内，叛军攻克金城郡治允吾(音Yuanya)，从此以金城郡为主要作乱据点。因凉州刺史左昌侵占防御军费，救军不济，帮了叛军的忙。金城太守陈懿前赴叛军大营商谈释放人质，反遭叛军杀害。人质中的新安县令边章、凉州从事韩遂被说服加入了叛军。这些有誉望的人的加入使得叛军获得了更大范围的民间支持，而此二人将在叛乱逐渐进行的过程中扮演重要角色。
随后，叛军围左昌于冀县总部。一些边将起初并不想救援左昌，但很受尊敬的成功将领盖勋迫令他们前去救援。叛军因尊敬盖勋，主动撤围。此事后，左昌被虔诚的儒生宋臬取代。宋臬认为，只有在民间教授《孝经》才能平乱，不顾下级反对将这一建议上表朝廷，随即也被杨雍取代。但地方状况并未因此改善，地方官再度被叛军围攻。有应对羌乱经验的新任护羌校尉夏育在汉阳郡的畜官遭句就种羌首领滇吾(音Dianyu)攻打，盖勋又一次率军往救。但这次，他在附近的狐盘遭到惨败。夏育、盖勋都逃走了，此时凉州政府显然已经不能靠自己的实力应对叛军了。
后来，韩遂、马腾关系紧张：他们时而联盟，时而交火。公元209年，马腾被韩遂逼迫出逃，求助于控制了华北地区和朝廷的权势军阀曹操。当时，曹操正有意于西北，因而邀请马腾来他的邺城大本营，实际以为人质。2年后，马腾子马超起兵反曹，马腾全家在邺城被诛。
211年春，曹操派前军师钟繇前往渭谷，作攻打张鲁在汉中的神权割据政权状。此次入侵刺激了韩遂、马超等西北军阀，他们组成联盟对抗曹操。联军在潼关之战中抵抗曹操亲自指挥的曹操军。曹操用熟练的策略缓慢行进到联军后方，同年秋在一场遭遇决战中击溃联军。潼关之败标志着西北地区的自治开始终结。
此战后，曹操向东回师，留征西护军夏侯渊负责后续工作，张既负责重建地方政府。马超在曹操离去后攻占冀城，试图筹划抵抗，和氐人建立联盟，但在213年被夏侯渊军和内部变兵联手驱逐。马超南投张鲁，后投四川的西南军阀刘备，在那里于221年过世，再未重返北方。214年，夏侯渊在长离水击败韩遂抵抗军，随即在对氐人和宋建的远征中告捷。宋建死，其都枹罕被克，属官皆被夏侯渊所杀。次年，韩遂死，余部将其首级送给曹操以示归顺。因此，由约三十年前的凉州之乱衍生而来的军事集团最终被消灭了。