作为匈奴首领赫连勃勃建立的“大夏”政权的都城，统万成为中国历史上少数民族建设的最完整、最雄伟、最坚固的都城，也是匈奴民族保存下来的惟一一座城墙轮廓、众多建筑保存完好的都城。
在建成后的5个多世纪里一直是鄂尔多斯高原南部的政治、经济和军事中心，也是扼守“草原丝绸之路”的东西交通重镇之一。在北魏始光四年(427年)，北魏与大夏的统万之战中，这座沙漠中的孤城表现了顽强的生命力，完全可以用固若金汤来形容。
北魏是鲜卑族拓跋部所建。鲜卑拓跋部原居于今东北兴安岭一带，后渐南迁至蒙古草原，以“射猎为业”，靠游牧为生。东晋咸康四年(338年)，其首领什翼犍称代王，建代国，都盛乐(今内蒙古和林格尔一带)。什翼犍被苻坚所灭后，其孙拓跋于北魏登国元年(386年)继称代王，不久改国号为魏，制定典章，重建国家，史称北魏。
东晋始于元帝司马睿，终于恭帝司马德文。刘裕将东晋灭亡之后，与北方的北魏对峙，形成南北朝的局面。
拓跋死后，长子明元帝拓跋嗣继位，嗣死，其子拓跋焘即位，是为世祖太武帝，于时开始了统一北方的战争。
拓跋焘，是北魏一位杰出的君主。他继位后，采取了多项措施，如整顿税制，分配土地给贫人，安置流民，引用大批汉人参政，旨在加强北魏的封建化进程，加强与中原地主的结合，稳定社会，发展经济。这些政策的实施，又使北魏国势日盛，为其统一北方奠定了坚实基础。
当北魏建国和发展时，正处于十六国的后半期。拓跋焘即位并日益强盛，南方的东晋已为刘裕的刘宋王朝所取代，北方则还有西秦、夏、北燕、北凉等割据政权的并立与纷争，北魏的北边还有蠕蠕(又称柔然、芮芮)经常南下侵扰。拓跋焘君临中原，即把平定北方提上议程，但关于先取何方，统治集团内部一直争论不休。
及始光三年(426年)，西秦主遣使朝魏，请讨夏国。北魏大臣们仍意见不同，有的主张先伐蠕蠕，有的主张先伐北燕，北方士族出身的崔浩则认为“赫连氏(夏王)土地不过千里，政刑残虐，人神所弃，宜先伐之”。时拓跋焘举棋不定。同年九月，拓跋焘闻夏主赫连勃勃已死，子赫连昌嗣位，内部不稳，遂决定先攻夏国。
拓跋焘进攻夏国的部署，是分兵两路。一路攻长安，一路趋统万。始光三年九月，拓跋焘命司空奚斤等人率四万余人袭浦坂(今山西永济县西蒲州镇)，目的是指向长安。而10月，拓跋焘亲自率主力进攻统万。11月，奚斤一路尚未至浦坂，夏守将赫连乙升即弃城西逃长安。奚斤轻取浦坂后，进抵长安，夏长安守将赫连昌、弟赫连助兴即与乙升等弃长安西奔安定(今甘肃泾川县北)。12月，奚斤占领长安。而拓跋焘进攻统万，却因城池结构独特，易守难攻，再加驻守严密，竟久攻不克。
拓跋焘享有九五之尊，竟连小小统万城都攻而不克，不免气急败坏，于是只得率兵自统万城返回平城，休养生息，伺机再攻。拓跋焘返回干城不久，就听说赫连昌遣平原公赫连定率二万兵力往攻长安，于是便下令伐木于阴山(今属内蒙古)，大造攻具，再谋攻伐统万。
始光四年(427年)3月，拓跋焘命高凉王拓跋礼镇守长安，又命执金吾桓贷于君子津(今内蒙古准格尔旗东北)造桥。4月，魏司空奚斤与赫连定相峙于长安;魏帝欲乘虚袭击统万。
拓跋焘先命司徒长孙翰等率3万骑兵为前驱，又令常山王拓跋素等率步兵3万作后继，南阳王伏真等率步兵3万运送攻具，另以将军贺多罗率精骑3000居前作候骑，充任前哨。
5月，魏帝留下龙骧将军陆俟督诸军以防柔然，自率军从平城出发，经君子津过黄河，至拔邻山(今内蒙古准格尔旗境)筑城，留下辎重，以轻骑3万开道先行。
统万城固若金汤，前有久攻不克的教训，如今仅凭轻军前往，势必会重蹈覆辙，大败而归。所以，魏帝的行动计划引起群臣质疑。但魏帝却认为，正因为统万城固若金汤，所以强攻未必能赢，只有以计夺城。他的计划是：“夏见我仅有轻骑，意必懈怠，我军示弱诱之出战，再以死力与之决战，定可胜。”
6月，拓跋焘率轻兵来到统万城外，兵力分散埋伏于深谷，只以少数部众进抵城下诱战。赫连昌得知魏兵已临城下，打算待赫连定从长安率兵来援，然后内外夹击，所以下令闭城坚守。
魏帝看统万城门紧闭，担心夏军不出战，便假佯退军，以示弱，另派5000骑兵掠扰西郊居民。
正在这时，魏有军士因犯罪而逃到大夏，对夏国说，魏军已没有备粮，后继的步兵也没有到，兵力弱不堪击。
赫连昌信以为真，大开城门，率步骑3万出击。魏帝一看城门已开，便佯装收兵逃遁，以引出夏军出城，造成统万城内空虚。
统万城由宫城、内城和外廓城三部分组成，不但固若金汤而且格局极为讲究，体现了魏晋时代的建筑风格。经过15个世纪的风雨洗礼，统万域的白色城垣和角楼残迹依旧轮廓毕现，护城河也隐约可见。
夏军分成两路追击，让拓跋焘颇为慌乱。因为其时风雨交加，飞沙蔽天，魏军逆风而战，自然有些力不从心。有人建议收兵避风，遭到大臣崔浩的反对。崔浩建议骑兵兵分两路，夹击夏军。此计果然成功，夏军大败，夏主赫连昌不及入城，逃奔上邦(今甘肃天水)。
被称为“固若金汤”的统万城终于被魏军以计谋轻取。拓跋焘率军进城后，俘夏王、公、卿、将、校及后妃、宫人等以万数;又获马30余万匹、牛羊数千万头，府库珍宝、器物更是不计其数。此时，与魏军相峙于长安的赫连定得报统万城已被攻破，放弃长安，也急忙逃奔上邦。魏帝率军东还，以拓跋素为征南大将军，与桓贷、莫云留守统万。
统万历经辉煌和磨难，成为中国历史的一个见证。可1600多年来，由于不断被荒沙围困，它深陷于毛乌素沙漠之中，几乎被完全淹没，也几乎从人们的记忆中消失了。