在古人眼里，泰山是一座最高最大的山。“泰山”之名的本来意义就是大山。如果用一个字来表示泰山的特质，那就是“大”。这首先来自于泰山外在的山体之大，而更重要的还在于其内在的文化之大，由此成就了泰山在一个民族心理中“山中之山”的崇高地位。玉皇顶下的“五岳独尊”刻石，正反映了古人对泰山的尊崇，是泰山四大标志性景观之一。
泰山之大，与山岳崇拜有关，大山崇拜，是人类早期普遍存在的一种文化现象。在古人看来，山岳具有神灵的属性，如不祭祀崇奉，就会带来自然的灾害与社会的灾难。而山岳所具有的富殖的特性，又是人们赖以生存的物质所需。山岳的神灵性与人们不可摆脱的对自然的依赖，共同构成山岳崇拜的认识基础。泰山是中国最早进入人类视野的名山之一。考古资料表明，泰山地区早在远古时代就已经成为东方文化的重要发祥地。至迟于40万年前，以“沂源人”为代表的远古人类已在这一区域内繁衍生息。在泰山东南发现距今2—5万年前旧时代晚期的新泰“乌珠台人”，以及泰山周围距今1万年前后中石器时代细石器遗存的发现，都显示出在几十万年间，这一地区的历史一直就没间断过，早期人类实践活动的存在，为泰山崇拜的产生提供了可能。
泰山周围的大汶口文化，是中国众多新石器文化中最有影响力的一支。大汶口文化距今约6300-4600年，大约持续了1700年左右。考古资料显示，在大汶口文化中期以后，逐渐取得了对其他新石器文化的优势，在许多方面都处于领先地位。而泰山正是大汶口文化的中心地区，大汶口文化的命名地——大汶口就在泰山脚下，现存面积达825万平方米。在时间的延续性，内容展示的丰富性，遗址面积的规模性等方面，大汶口遗址都较其他遗址有非常大的优势，显示出一个文化中心的地位。
大汶口文化时期的先民，曾以强大的文化势力西迁，形成对文化黄河中游地区文化的强烈渗透，还曾远征到长江流域，将自己的势力发展到其他新石器文化之中，继大汶口文化发展而来的典型龙山文化，以及河南龙山文化、二里头文化(夏文化)以至商文化中，也可以看到来自大汶口文化的影响。由此就不难理解古人将泰山视为天地中心而崇拜的缘由。
泰山崇拜的形成不晚于新石器时期。在大汶口遗址中，发现图像文字20余个，约有8种个体，其中最典型最有意义的莫过于在泰山东部吕县凌阳河大汶口文化遗址中发现的一个刻在大型陶樽上的图像文字。它由太阳、火、山三部分组成，上部是太阳，中部是火，下部是山，所表现的是在高山上燃火祭日以祭天的情形。这也是中国所发现的最早的祭天形式。在这里大山无疑成为人与上天沟通的媒介。山与太阳同题，对山的崇奉是明确的。在《尚书舜典》中有关舜“东巡狩，至于岱宗”的记述，就诠释了上述图像文字所表达的内容。可以说在新石器时期，就已成为大汶口人崇拜的对象。大汶口时期的先民，算得上是泰山的主人。大汶口文化为泰山崇拜的崛起奠定了坚实的社会基础。
在中国古代文献中，泰山被尊为“岱宗”，是大山之长，唯有天子才有资格祭祀，这就是《周礼》所谓的“天子祭天下名山”，祭祀之权为最高统治者所专有，在这种社会背景下，泰山成为一个国家的信仰之山。所以当封禅说出现后，泰山自然而然成为众多山岳中唯一能与天地对话的大山。
封禅，是由天子巡视四方诸侯的“巡狩”制度演变而来的。两者最大的区别在于，封禅具有“告天”的意义，并且只能在泰山举行，祭祀泰山由此成为最高的天地之礼，是履行国家最高权力的象征。正因为如此，泰山以其雄伟的自然特征与丰厚的历史文化，逐渐走上一个民族心灵的圣坛，成为一座当之无愧的神山、圣山。