北京古城墙已有几百年的历史。始创于元代，建成于明代，沿用于清代至民国，经历了七个世纪之久。
1403年，明成祖朱棣升北平为北京，北京之名即由此始。1406年朱棣下诏迁都北京并下诏建宫殿，修城垣，1407年开始营建北京宫殿、坛庙。1419年将北京南城墙南移500多米，建在今天的前三门一线。重建的宫城分宫城、皇城、内城和外城四重。宫城又称紫禁城，周长6里，城墙高7.9米，内外砖砌，外围护城河。清依旧制。
新中国成立后，建设北京的指导思想是把北京建设成工业城市，城市规划也都是在这样的指导思想下进行的，旧城保护没有受到重视。听从了苏联专家的建议，将行政中心安置于内城，否定了梁思成和陈占祥提出的将行政中心设置在距离旧城以西约1.5公里的三里河地区的“梁陈方案”。
北京古城墙就是一个备受争议的古建筑，当时的诸多学者分为两派，以林徽因梁思成为首的建筑专家，建议将古城墙保留下来，而以郭沫若为代表的一方，却觉得古城墙应该拆除，不然影响北京日后发展。
关于北京的城墙是保留还是毁灭的争论结果永久地改变了古都北京的历史风貌。
梁思成等人认为，古城墙虽老旧，看上去普普通通，但却见证了中国历史的发展历程，具有很大的考古价值。除此之外，后人们也能通过这段古城墙，了解我们国家的历史，感受前辈先人们走过的道路，寻找他们的足迹。古城墙虽没有了实际的使用价值，但却是一个民族的象征，经历过风霜洗礼的地方，便不能再用普通的眼光去看待。以当时的情况，完全可以将这片老城区，连同古城墙一起，划片保留下来。
然而郭沫若却不这么认为，他觉得城墙不过是一堆砖瓦，目的就是为了御敌，如今国家安定，自然是不再需要他们存在了。而且，古城墙代表的是封建旧社会，是旧时代的象征，如今步入新时代，这样的旧物，凭什么要留下来呢?这对日后的发展，除了增添阻碍，还能有什么积极作用。
郭沫若的这番话，让保留派实在难找话来辩驳，毕竟在那个特殊的时期，旧物总是没有存在理由的，若谁强出头，搞不好还要扣上个歪帽子。
但是，梁思成等人也没有放弃，还是一直为给国家留下些古建而四处奔波，体弱的林徽因甚至因此气出了重病。
然而，到底是势单力薄，在大趋势下，北京的古城墙还是没能保留下来，被拆得一干二净，再也寻不到踪迹。
从1952开始，北京外城城墙被陆续拆除，办法是组织市民义务劳动，或动员各单位拆墙取砖取土。几年内，北京外城的墙被全部拆除，内城的墙被拆了一半，留下一半。1953年5月，为改善交通决定把朝阳门和阜成门的城楼及瓮城拆掉，交通取直线通过。1954年，中轴线上的地安门被拆除。1956年，永定门城楼周围城墙被拆掉，1957年，永定门城楼箭楼被拆掉，拆除的理由是"妨碍交通"。1959年，修建天安门广场和人民大会堂工程中，中轴线上的中华门被拆除。1965年7月，地铁工程开始动工，内城城墙的拆除工作也随即展开。1969年，内城城墙在修建地铁和备战备荒中被彻底拆除，城砖大多用在了"深挖洞，广积粮"的全民工程设施上。