跟日耳曼民族不断侵略罗马帝国一样，中国中原王朝的富庶对于居住在寒冷荒凉地带的匈奴来说，一直是难以抗拒的诱惑。
秦汉时期，北方的匈奴始终对中原王朝是个巨大的威胁。在秦代，匈奴曾一度为大将蒙恬所击败，逃往漠北，十多年不敢南下。秦朝覆亡后，匈奴趁楚汉相争、无暇北顾之机再度崛起。在骁勇善战的冒顿单于统率下，四面出击，重新控制了中国西北部、北部和东北部的广大地区。西汉王朝建立后，匈奴依然是汉民族和平生活的重大威胁：数次入侵边境，攻城屠邑，掠夺财物和人口，给西汉北方地区民众带来沉重的灾难。
忍辱负重，休养生息
西汉开国皇帝刘邦对匈奴的屡屡犯境非常愤怒。公元前200年，刘邦乘着刚刚击败项羽、统一中国的余威，率领大军向匈奴进攻。双方在白登山展开激战，结果汉军队大败，刘邦被围七天七夜，几乎被俘，后以重金收买了匈奴首领，才得以突围。
刘邦自此认识到汉朝实力不足，开始休养生息，发展生产，但在处理与匈奴关系上仍苦思不得良策。不得已，刘邦采用了娄敬的建议，以汉家公主和亲匈奴，并赠送丝绸、粮食等物品，与其约为兄弟，以缓解其袭扰。在军事上，则主要采取消极防御的方针，尽量避免与匈奴进行决战。
汉高祖之后，文帝和景帝继续推行休养生息政策，积极发展生产。
但历代的和亲政策并没有遏制匈奴的袭扰活动，反而使他们认为汉朝软弱可欺，因此在边境闹得越来越凶。
边患大事，一日不忘
公元前140年，汉武帝刘彻即位时，汉帝国经过60多年休养生息，经济有了很大发展。国力的强盛为汉武帝的战争动员和实施创造了有利的条件。
汉武帝是一个具有雄才大略的政治家，他不满足于王朝贵族固步自封的做法，希望能有大的作为。
汉武帝在位最初的几年，虽然还延续着前几任的和亲政策，但他一直在寻找机会改变传统政策，彻底击退匈奴，解除边境安全隐患。他曾对大将军卫青说：“汉家庶事草创，加四夷侵凌中国。朕不变更制度，后世无法。不出师征伐，天下不安。”汉元帝时担任西域都护府副校尉的陈汤曾在向中央陈述攻打匈奴的理由时说：“凡侵犯中国的，逃得再远，也要诛杀。”这句话最能代表汉武帝的想法(原文：“明犯强汉者，虽远必诛”———编者注)如此气概，当为后世敬仰。
此后，积极发展军事力量成了汉武帝的重要任务。他认识到汉军战斗力弱的问题，便积极从匈奴那里学习先进的骑兵突击战术，以及铸造锋利而结实的战斗武器技术等。
同时，汉武帝不拘成法，大胆起用一些勇猛而功名心强的将领，陆续清除一些思想僵硬腐化的军事将领。
为加强边防建设，汉武帝将大量民众迁往边境，在那里建立城邑，并对边郡居民进行军事训练。还在边郡设立马苑，大量养马，官府养马达45万匹，奠定了建设大骑兵集团的基础。武帝还创置了北军八校尉，其中四校尉都是为建设骑兵而置。至此，汉朝建立起一支由10万—15万骑兵和数十万步兵组成的强大军队。
组织辩论，明确态度
为推行攻击匈奴的策略，公元前133年，汉武帝在御前主持了一场规模空前的是否需要打击匈奴的辩论。
汉武帝的观点是：汉朝对匈奴的大量馈赠示好，不但没有满足这些野蛮人的贪欲，反而更激起他们对汉朝巨大财富的觊觎之心。朝野上下已经对匈奴毫无信用、反复无常的行径感到无比厌烦，确认这是一群不可以用道义来约束的野蛮部落。对于这样的边患，如果不彻底清除，反倒会让其觉得软弱可欺，国家边境也不会获得永久的和平。
辩论开始后，汉武帝发现朝廷中的论调明显分为两种：支持和亲者认为匈奴难以降伏，还是应该继续以前的和亲策略;主张用兵的大臣则尖锐地指出，和亲只会助长匈奴嚣张的气焰，会向朝廷提出更多的无理要求，对他们的宽容忍让绝不能再继续下去，并且，事实证明匈奴的存在对汉朝的安全构成了严重的威胁。后来，大行令王恢提出一个大胆而又诱人的计划：在马邑设下埋伏，用计诱使匈奴单于上钩，一举消灭。这个方案打动了汉武帝，他义无反顾地决定出兵攻打匈奴。
公元前133年，汉武帝派王恢统领30余万军队，埋伏在马邑城(山西朔州)左右山谷之中，然后设计引诱匈奴进击。但在最后关头，被匈奴单于识破计谋，匈奴急忙撤退。汉匈两国的邦交从此破裂。
倾力靖边，远驱匈奴
此后，汉武帝更为苦心地经营征伐匈奴的计划，他精心挑选最杰出的军事统帅卫青、霍去病分别率军深入敌巢，并集合了李广、赵破奴等一大批杰出的将军。汉军斗志高昂，都希望在与匈奴的决战中立下不朽的功勋。
骠骑将军霍去病亲自对武帝许下誓言：“匈奴未灭，无以家为也。”汉武帝最终将领兵重任托付给了他。
但最终与单于主力交锋的是大将军卫青。当时卫青已出塞千里，正好遇到伊稚斜单于在此摆好阵势。卫青冷静地命令用军中的武刚车环列为营，派出五千精骑与伊稚斜交锋，匈奴也派出万骑。战斗进行之中，卫青又令军队分左右两翼包抄。伊稚斜见汉兵强盛，心中不安，到傍晚时分，偷偷骑上健壮的骡子在数百名匈奴勇士的保护之下突围逃走。卫青察觉之后，急命轻骑追击出二百多里，最终没有赶上，被其侥幸逃脱。卫青继续清剿匈奴余众，前后斩杀万余人，一直杀到赵信城。这里有匈奴积攒的粮食，汉军就此休整一日，将城里剩余的粮食焚烧，从容回师。
霍去病也率领精兵深入大漠两千余里，转战匈奴腹地，如入无人之境，斩杀匈奴7万多人。最终封狼居胥，禅姑衍，临瀚海，耀武扬威而还。匈奴虽未尽灭，也大无生气了。此次杀敌近十万，匈奴丧胆，汉军士气大振。
自此以后，匈奴远没有过去猖狂，漠南也再没有匈奴的王廷存在。匈奴躲在漠北寒苦之地不敢再对汉朝有非分之想。汉武帝对匈奴发动的决战最终取得了圆满的胜利，所做的战略设想全部成功实现。
汉武帝为击败匈奴，虽然耗费了巨大的人力、物力，使社会经济发展受到一定阻碍，但从长远意义来看，匈奴被击败后，汉朝获得了长久和平的经济发展环境，国力不断上升，从而为中华民族开辟了一个广为后世称颂的新时代。