秦始皇统一中国，开创了中国“大一统”的崭新局面，这是商周以来划时代的伟大变革。“大一统”指以一统为大，原为儒家的政治主张，著《春秋》，意在尊崇周王，反对国家分裂，维系全国一个政权、一个统治者，这就是“大一统”的本义。秦修长城，就把“大一统”扩展到长城脚下。汉以后历代能否突破秦的局限，将“大一统”发展和扩大到长城外，关键取决于能否真正统一长城外“三北”地区的诸游牧民族。历代王朝所称“外患”“边患”，几乎无例外的来自这里，二十四史中留下了难以计数的记录。
自秦至清初，上下两千余年间，生息在“三北”地区的游牧民族与渔猎民族十分活跃，例如匈奴、乌桓、鲜卑、氐、羌、党项、回纥、高句丽、突厥、蒙古、契丹、女真、满洲等，都在不同历史时期，频频进攻中原，构成对中央王朝的长久威胁。因此，历代王朝承袭秦制，反复修筑长城，以其为国家安全之保障。比较各代修长城，又以明朝为最。自明太祖洪武十四年(1381)筑山海关，迄至帝亡国前，明持续修筑长城，长达250余年。工程之浩大，修筑之完备，长城之绵长，都创中国历史之最。
历代修长城，并没有从根本上消除“边患”，挡不住游牧民族的铁骑，却严重阻碍国家“大一统”的进一步发展。把“三北”少数民族限隔在长城外，不能真正行使国家管辖权，只满足于定期朝贡，实际上只是维持表面的统一，当中央王朝衰弱，或者某一游牧民族变得强大时，原先那种松散的政治隶属关系就会被打破，冲突或战争就不可避免。
清以前，历代没有从根本上解决“三北”的民族问题，其“大一统”一直徘徊在长城一线。清以前历代王朝的国家“大一统”，表面上是为长城所阻，实际上是传统、狭隘的民族观念制约着人们的思想。这种由区分“内中国外夷狄”到“天下一家”的破局，是从清朝的康熙帝开始的。康熙帝即位时，除了台湾，全国大陆重新实现了统一，当台湾归入版图后，清朝对全国的统一始告完成。清朝的“大一统”能否巩固，尤其是能否进一步发展，同历代一样，关键取决于“三北”游牧民族的动向和清朝所采取的政策，其中如何看待长城又是一大关键。
康熙二十八年(1689)，清朝与沙俄签订《尼布楚条约》，划定中俄东段边界，“三北”之一的东北趋于安定。二十九年，以噶尔丹为首的准噶尔割据势力公然发动战争，侵夺内外蒙古，直接威胁京师。康熙帝毅然决策征伐，很快就阻挡住了噶尔丹的攻势。次年，康熙帝率诸王、贝勒、大臣前往多伦诺尔(今内蒙古多伦)，约集内外蒙古来此“会盟”，定疆界，制法律，为外蒙的喀尔喀蒙古诸部编制盟旗，使其接受清朝的管辖，从而实现了北部乃至西北的空前统一。蒙古问题宣告解决。
就在这次“会盟”之后，有大臣看到长城年久失修，建议拨款修理。康熙帝继承皇太极、顺治帝提出的“满汉一家”的民族思想，进而又发展成为“中外一视”“天下一家”的“大一统”思想，发现长城的存在不利于国家的统一，尤其不利于与“三北”游牧民族的政治一体化，于是否定了修长城的建议，并说出了一段意义深远的话：
“秦筑长城以来，汉、唐、宋亦常修理，其时岂无边患?明末，我太祖统大兵长驱直入，诸路瓦解，皆莫敢当。可见守国之道，惟在修法养民，民心悦，则邦本得，而边境自固，所谓众志成城者也。”(《清圣祖实录》)
康熙帝总结历代修长城的历史教训，悟出一个治国的大道理：长城再坚固，也无法保障国家的安全，惟有“养好”百姓，让他们高兴，才会得到治国之本，边境自固而无忧。这就是“众志成城”的意思。康熙帝决策废弃长城，实际是拆除了分割广大汉人与“三北”少数民族的一道隔离墙，不再有内外之分，迅速形成空前“大一统”的多民族国家。康熙帝废除土石工程长城，力主构筑一道“众志成城”的思想长城，是“大一统”理论的划时代突破，具有重大的历史意义。