西汉王朝在前期对匈奴是以和亲笼络的方式维持北方和平的。当时，匈奴统一了中国北方，中原正楚汉相争，中原王朝无暇北顾，冒顿单于统一匈奴各部。汉王朝在结束楚汉战争后，公元前200年，汉高祖刘邦率大军32万征伐投降匈奴的韩王信。韩王信是战国时韩国君主的后代，秦末天下大乱，韩国复国。后来，韩国都城马邑(山西朔城区)被匈奴包围，韩信抵挡不住，屡次向匈奴求和，汉室与韩王信矛盾越来越深，韩信最后投靠匈奴。汉高祖刘邦率大军行进至平城(今山西省大同市东北)时，被冒顿单于率精兵40万围困于白登山(今山西省大同市东北马铺山)达七日之久，这就是历史著名的"白登之围"。后汉高祖用陈平之计得以突围，但"白登之围"后，西汉王朝不得不实行"和亲"政策，并且每年送给匈奴大批棉絮、丝绸、粮食、酒等。
汉王朝在隐忍蓄势，经过七八十年的积蓄，汉王朝的经济和人口终于恢复。于是展开了对匈奴的系列反击。而汉王朝的反击就是从公元前133年的“马邑之谋”开始。公元前134年，匈奴派使者向汉武帝请求和亲，汉武帝采纳御史大夫韩安国的建议，与匈奴和亲。
和亲还没有进行，时间就已经到了公元前133年，马邑有个大商人聂壹来找大行令王恢，建议利用和亲的机会对匈奴打一次伏击战。大行令为九卿之一，掌管对少数民族之接待、交往等事务。王恢向聂壹问计，聂壹说："我可以借做买卖的因头，假装把马邑献给单于。单于贪图马邑的货物，一定会来。我们把大军埋伏在附近地方，只要等单于一到马邑，将军就可以截断他们的后路，活捉单于。"
王恢把此谋上奏给汉武帝，他是这样说服汉武帝的："战国初年，代国虽小，北有强胡的侵扰，南有中原大国的威胁，君臣尚能同仇敌忾，奋勇抗击外侵;匈奴虽强，也不敢轻易侵扰代国。如今大汉强盛，海内一统，陛下威名远扬，然而匈奴却侵扰不止，每次与汉和亲，不过数年即违背约定，正是因为没有坚决抗击的缘故!”王恢说到了汉武帝的心坎里去了，所以汉武帝力排众议，准备出击匈奴，并由此拉开了汉匈百年大战。
公元前133年六月，汉武帝命商人聂壹前往匈奴诱敌。同时将精兵30万分成两路：命护军将军韩安国、骁骑将军李广、轻车将军公孙贺率主力部队埋伏在马邑附近的山谷中;将屯将军王恢与材官将军李息率3万多人出代郡(今河北省蔚县东北)，以从侧翼袭击匈奴的辎重并断其退路，待匈奴大军进入包围之后，一举全歼匈奴主力。
聂壹对军臣单于说，他有手下数百人，能斩杀马邑县令，举城而降，牲畜财物可尽归匈奴，但匈奴一定要派大军前来接应。军臣单于上当，亲率10万大军进入武州塞(今山西省左云县) ，但单于很小心，派使者随聂壹先入马邑，等斩杀马邑县令后才进兵马邑。聂壹回到马邑后，以一名囚犯首级悬挂在城门之上冒充县令头颅，匈奴使者在城外看到县令首级大喜，回去向军臣单于报告。军臣单于得到使者的报告后，命大军向马邑方向进军。军臣单于发现一个奇怪的现象：沿途牲畜无人放牧，小心的军臣单于先抓了雁门尉史。尉史将汉军的计谋全部说出。军臣单于立即撤军退出了险地。王恢、李息率领的三万大军准备袭击匈奴的辎重，在得知匈奴退兵后，非常惊奇。王恢自思自己的军队敌不过匈奴大军.只好退还。韩安国等率领大军分驻马邑境内埋伏，但好几天不见动静，遂改变原先的作战方案，率军出击，结果一无所获。
"马邑之围"失败后，汉武帝以王恢提出战争却临阵脱逃，将王恢下狱。王恢被迫自杀谢罪。匈奴拒绝与西汉朝和亲，在边境拦路劫掠，或者出兵四处袭击汉朝边郡，以报复马邑之围。汉武帝也积极展开对匈作战，派卫青、霍去病出击匈奴，历经袭破龙城、河南、高阙、定襄、河西等系列会战，终至漠北之战(前119)击败匈奴，从此奠定汉强匈弱的格局。但匈奴在十几年的恢复后，声势复振，汉武帝后期有赵破奴2万骑受降城之没、李广利3万骑天山被围牺牲六七、李陵5千步兵浚稽山败没，甚至最后李广利7万铁骑燕然山全军覆没。宣帝即位第二年(前72年)，汉朝发铁骑16万余兵马，分五路攻打匈奴，同时，派遣校尉常惠前往乌孙，节制乌孙骑兵5万余，与汉军东西并进，形成一个巨大的钳形攻势，夹击匈奴。匈奴畏惧汉军，惊惶西逃恰遇乌孙兵，一场激战大败而归，常惠因此封为长罗侯。前71年冬，匈奴再袭乌孙，遇大雪，生还者不及十分之一，再加乌孙、乌桓与丁令的乘势攻击，国人亡十分之三，畜亡十分之五，国力大为削弱。不久，汉军3千骑击匈，都能捕得几千匈人而还，匈奴亦不敢报复，而且更向往与汉和不是战了。前60年，统治西域的日逐王先贤掸与新任单于握衍朐鞮素有矛盾，关系不睦，带着数万人投降汉朝。日逐王被封为归德侯。甘露三年前51年，呼韩邪单于亲往帝都长安，俯首称臣，自此汉匈战争结束，汉宣帝为此封麒麟阁十一功臣。