凉州最早建制于西汉，是西汉十三州之一，治所在今天的甘肃武威。
西汉时期凉州的位置大体等同于今天的甘肃和宁夏，西汉元狩二年，为打通河西走廊，汉武帝派骠骑大将军霍去病攻击位于河西地区的匈奴休屠王，霍去病大破休屠王，并攻占休屠王王城，汉武帝改休屠王城为武威。
元封五年，也就是十五年之后，汉武帝将天下分为十三州，各置一刺史，史称“十三部刺史”。而霍去病所打下的河西地区置凉州刺史部，意为“地处西方，常寒凉也”，凉州自此得名。
凉州最初设有八个郡，名字都非常好听，分别是：
安定郡、天水郡、陇西郡、金城郡、武威郡、张掖郡、酒泉郡、敦煌郡
(西汉时期的凉州)
到了东汉时期，东汉政府对凉州的行政区划进行了调整，设立十郡，名字依旧很好听。分别是：
武都郡、陇西郡、汉阳郡、安定郡、北地郡、武威郡、金城郡、张掖郡、酒泉郡、敦煌郡
到东汉兴平元年六月，在董卓旧部李傕等人的威胁下，汉献帝将凉州东部地区单独拿出来，成立为雍州，设雍州刺史。
建安十八年，东汉政府又将凉州与司隶校尉部的三辅一起并入雍州，治所就在长安。
之后到曹魏初年，曹丕再度重新恢复了凉州的建制，分河西8郡复置凉州。
从西汉到三国，凉州和雍州分分合合，这两个州加起来大体就相当于整个甘肃、宁夏和陕西南部，后世泛称“雍凉”，此地也成为三国时期魏蜀争夺的重点，诸葛亮北伐的目标主要就是夺取雍凉之地。
(三国时期的凉州)
其实在《隆中对》中，雍凉并不是诸葛亮的战略重地，诸葛亮最初的目标是夺取荆州和益州。荆州当时号称天下之腹，其“北据汉、沔，利尽南海，东连吴会，西通巴、蜀，此用武之国!”，而益州则是“沃野千里，天府之土”。
在诸葛亮的战略中，益州是大后方，而荆州则是北方中原的利刃，从这里可以直逼许昌、洛阳。若同时拿下荆州和益州，则可分两路北伐，一举拿下长安、洛阳。
按照诸葛亮的计划，刘备是先拿下了荆州，虽然当时荆州是孙权借给刘备的，但借荆州和借钱的道理一样，孙权作为债主是孙子，刘备作为欠钱的一方则是大爷。
刘备许诺拿下益州后便归还荆州，不过刘备拿下益州后又搪塞称拿下凉州再还荆州，这直接把孙权惹烦了。虽然最后双方中分了荆州，但双方的梁子是接下来。至此荆州被分成了三分，北部四郡被曹操占领，东部三郡归孙权，西部三郡属刘备。
虽然只拿到了三分之一个荆州，但此时已经是刘备的巅峰时期。随后刘备又在汉中之战中大胜曹操，镇守荆州的关羽闻讯北伐攻打襄阳，建安二十四年，三国襄樊之战由此拉开。
襄樊之战的过程就不提了，结果是曹操孙权联合击败了关羽，孙权则趁机袭取荆州，俘杀关羽，刘备荆州之地全部丧失。
地盘被抢，兄弟被杀，刘备大怒，不顾众人的反对执意亲征吴国，但在夷陵之战中败于陆逊，刘备随后病逝于白帝城，荆州算是拿不回来了。
丢失了荆州相当于北伐少了一条腿，而且只剩下益州一地的蜀汉在经济和人口上都难以与魏国打持久战。此后主政蜀汉的诸葛亮改变了最初的战略，他先是派人与孙权合好，然后平定南中，整顿后方。
公元226年魏文帝曹丕逝世，魏明帝曹叡继位，诸葛亮闻讯后决定北伐，但目标并非是直取洛阳，而是希望能够拿下雍州西部和凉州地区。
诸葛亮明白，以蜀汉现在的实力想一举吞掉魏国是不可能的，为今之计只有徐徐图之，先拿下凉州等地补充一下人口再说。
其实凉州人口在当时很少，是三国时期各州人口最少的一个州，最多也就只有三四十万人。但是对于蜀汉政权来说，这么多人口已经不少了，而且凉州还盛产马匹，也可以弥补蜀汉骑兵不足的劣势。
而更重要的是，以诸葛亮的实力也就只够拿下凉州，于是诸葛亮便给自己定了一个小目标，先拿下凉州。
诸葛亮在第一次北伐之初顺风顺水，一连拿下南安、天水和安定三郡，水守将姜维、梁绪、尹赏、上官雝等人相继投降诸葛亮。
然而人算不如天算，就在关键时刻，被诸葛亮派去街亭阻拦魏国援军的马谡把诸葛亮狠狠地坑了一把，马谡直接就把街亭给丢了。丢失街亭相当于后路被截，为了防止自己被魏军包饺子，诸葛亮只得忍痛放弃了所占之地，带着三郡几千户居民撤回汉中。
(诸葛亮第一次北伐路线，在诸葛亮的五次北伐中，第一次北伐是距离胜利最近的一次，结果被马谡给葬送了)
之后诸葛亮又相继进行了四次北方，目的都是一样的，夺取凉州、雍正二地，占关中，图洛阳，但是都没成功，最后遗恨五丈原。诸葛亮逝世后，姜维继承其衣钵，继续北伐，目标是还雍凉，可结果仍是没有实质性的进展。
纵观整个三国时期，凉州一直是蜀汉和曹魏的争夺要地，只可惜诸葛亮和姜维都没能实现这一计划，以至于最后被曹魏反扑。