玉壁在南北朝时，是极为显要的军事重镇，是东魏和西魏扩展势力，向对方进发的咽喉要道。在1400多年前，这里曾发生了一次规模最大、时间最长、战术最杂、伤亡最多的封建势力争夺战，历史上称为“玉壁大战”。
公元534年(北魏孝武帝永熙三年)，北魏分裂为东魏和西魏。两魏实权分别落入丞相、鲜卑化的汉人高欢和鲜卑人宇文泰手里，君主不过是傀儡而已。两魏以黄河为界，东魏以邺(今河北临漳西南)为都，占有函谷关以东原北魏的大部分地区;西魏以长安 (今陕西西安市)为都，占有原北魏的关中一带。两魏彼此对立，后又分别为齐、周所代，最后齐为周所灭，山西始终是首当其冲的争战之地。
高欢仗恃地广人众、粮足马肥的战略优势，欲一举荡平西魏;宇文泰则尽管僻处关西，人稀兵少，粮秣匮乏，却励精图治，特别是注意一个个战役胜利的积累，信心和实力与日俱增。公元534年，西魏骁将杨檦东渡黄河，巧计攻占了东魏的邵郡(今山西垣曲故城)，进入河东(今山西南部地区)。从此，两魏互为依托的关河天险为西魏所独有。这种历史现象颇似前此战国时代秦据有魏的安邑(今夏县西北)而对秦、魏的盛衰存亡攸关一样，如今之于两魏同样是盛衰存亡所系。正因为如此，河东遂成为两魏之间殊死斗争的焦点。
高欢苦战六旬，将士伤亡病灭十之四五，智力俱困，因而发病，乘夜逃遁，不久忿怨死于晋阳。西魏则嘉韦孝宽守城之功，授骠骑大将军、开府仪同三司，进爵建忠郡公。至北周保定初年(公元561年)，以韦孝宽立勋玉壁，于玉壁置勋州，仍授韦孝宽勋州刺史。