公元534年(北魏孝武帝永熙三年)，北魏分裂为东魏和西魏。两魏实权分别落人丞相、鲜卑化的汉人高欢和汉化的鲜卑人宇文泰手里，君主不过是傀儡而已。两魏以黄河为界，东魏以邺(今河北临漳西南)为都，占有函谷关以东原北魏的大部分地区;西魏以长安 (今陕西西安市)为都，占有原北魏的关中一带。两魏彼此对立，后又分别为齐、周所代，最后齐为周所灭，山西始终是首当其冲的争战之地。
高欢仗恃地广人众、粮足马肥的战略优势，欲一举荡平西魏;宇文泰则尽管僻处关西，人稀兵少，粮秣匮乏，却励精图治，特别是注意一个个战役胜利的积累，信心和实力与日俱增。公元534年，西魏骁将杨(木票刂)东渡黄河，巧计攻占了东魏的邵郡(今山西垣曲故城)，进入河东(今山西南部地区)。从此，两魏互为依托的关河天险为西魏所独有。这种历史现象颇似前此战国时代秦据有魏的安邑(今夏县西北)而对秦、魏的盛衰存亡攸关一样，如今之于两魏同样是盛衰存亡所系。正因为如此，河东遂成为两魏之间殊死斗争的焦点。
公元538年(西魏文帝大统四年，东魏孝静帝元象元年)，西魏东道行台王思政以玉壁 (今山西稷山西南)地处险要，上书请筑城并由河南的恒农(今河南灵宝)移镇玉壁，西魏当局欣然照准，并对王思政“诏加都督汾(治今山西汾阳)、晋(治今山西临汾市)、并州(治今山西太原市)诸军事”。王思政何以请筑城玉壁与移镇玉壁?西魏当局又何以大加赞赏和支持呢?只消看看这个要塞所处的地理形势，就可知其原因：玉壁地当今稷山县西南六公里，坐落于汾河下游与涑水河分水岭峨嵋原北缘。峨嵋原即地理学上所谓“峨嵋台地”，地处北纬34°52′，至35°36′，东经110°20′，至111°20′，之间运城盆地中部，面积6000平方公里，周300公里，台地略呈棱形，海拔在400米以上，北界汾河谷地，西界黄河峡谷，东、南为涑水河所环绕。台地边缘受流水侵蚀和河流冲刷，形成陡峻的黄土断崖和冲沟，沿河断崖大多在50米以上，整个台地犹如一巨大黄土城堡。台地中央更有两座超过千米的孤峰山和稷王山，东西相对，宛若台地的两只眼睛。占据峨嵋原，东南可控制涑水河谷的南北孔道，西北则可控制汾河河谷东西孔道，进可长驱突击，退可守险无虞，古来构成西南拱卫长安、东北屏翰晋阳的地理形势。同时，台地地处暖温带，气候温和，土地肥沃，盛产粮麻，向为民给军需的理想所在。所以谁占有峨嵋原，谁就取得了战略主动。如今西魏既进入河东，如欲站住脚进而巩固和发展，则必须守住峨嵋原——此正是西魏筑城玉壁移镇玉壁的原因;而河东是二魏角逐中东魏的要害，亦其“软腹部”，高欢前对西魏涉足河东早已如坐针毡，今对其筑城玉壁自然更如鲠骨在喉——此正是高欢为拔除玉壁不惜以赌国运的原因。
两魏玉壁之战，先后凡两次，都是东魏攻打西魏的要塞玉壁引发的。东魏军皆由大丞相高欢亲自统率;西魏军首次由东道行台王思政为主将，第二次由晋州刺史韦孝宽为主将。首次玉壁之战发生于公元542年(西魏大统八年，东魏孝静帝兴和元年)初冬。高欢由晋阳麾军沿汾河谷道南下，至绛州(今山西新绛)折西，军势浩大，号称“连营四十里”。高欢兵临城下，软硬兼施，先以授并州刺史劝降，王思政不受;高欢遂围玉壁，连续攻打9日不下，天逢大雪，城外野战，士卒饥冻，死伤惨重，无奈撤军。
公元546年(西魏大统十二年，东魏孝静帝武定四年)，高欢倾山东之众西伐，志图关中，玉壁首当其冲。他连营数十里，直逼玉壁城下。当时城内士兵戴铁面防范;高欢使神箭手元盗(一作“元溢”)射之，每中其目。城外在城南起土山，欲居高临下攻城;土山对面，城上原有两座敌楼，韦孝宽边于楼上缚木相接，高逾土山，边广积战具以待。高欢使人向城中喊话“纵尔缚楼至天，我会穿城取尔”，遂于城南凿地道向城接近，同时于城北起土山昼夜攻城;孝宽则沿城挖堑截击地道，并严令战士守堑，城外一旦挖透堑壕，立即擒杀，又于堑外贮积柴火，备足风箱，如有敌蛰伏地道，即鼓风以烟火灼烧。城内无水而汲于汾，高欢使将士移汾改道;孝宽则于城内凿井以对。城外又造攻车，坚固锐利，车之所及，莫不摧毁;城内乃缝布为缦，随车所向而张设，布既悬空中，车竟不能坏。城外缚松香于高竿，灌油加火，欲烧布焚楼;城内则造长柄铁钩，以钩割竿，松麻俱落。城外又于城四面穿地21道，各施梁柱，以油浇灌，放火烧柱，柱折城崩;城内却随崩随竖木栅以阻止。城外攻城之术已尽，城内则无一不识破破除。高欢无奈，使人向韦孝宽喊话，晓以既无救兵，何不投降;韦孝宽答我城池严固，粮秣有余，攻者枉自徒劳，守者逸颐自安，何须驰援?我倒是为贵方广大将士有来无回担忧呢。高欢再使人“射募格于城中云：‘能斩城主降者，拜太尉，封开国郡公，邑万户，赏帛万疋。’韦孝宽手题书背，反射城外云：‘若有斩高欢者，一依此赏。”高欢又将孝宽原在山东的从子押于城下，把刀架到脖颈上，扬言城内再不降，就杀人了;韦孝宽依然不为所动，将士为主将大义凛然所感，莫不有与城共存亡之心。
高欢苦战六旬，将士伤亡病灭十之四五，智力俱困，因而发病，乘夜逃遁，不久忿怨死于晋阳。西魏则嘉韦孝宽守城之功，授骠骑大将军、开府仪同三司，进爵建忠郡公。至北周保定初年(公元561年)，以韦孝宽立勋玉壁，于玉壁置勋州，仍授韦孝宽勋州刺史。
玉壁之战中，从高欢攻城使用的战术到韦孝宽守城使用的战术看，可谓金、木、水、火、土五行俱全，都达到古来战争中无所不用其极的程度，这或许是古代战争史上一次战役所涉及战术内涵最丰富最齐全的了。
高欢病中由玉壁班师晋阳后，出于兵败后激励将士，使骁将斛律金作《敕勒歌》，这就是那首传诵千古的名篇：“敕勒川，阴山下，天似穹庐，笼盖四野。天苍苍，野茫茫，风吹草低见牛羊”。这首描绘北国草原辽阔无垠、气势恢宏的游牧族民歌，借玉壁之战始进入官书而流传下来