《现代汉语词典》中，“墓志”一词的解释为：“放在墓里刻有死者生平事迹的石刻。也指墓志上的文字。有的有韵语结尾的铭，也叫墓志铭。”丛书《新中国出土墓志》执行主编任昉介绍，墓志铭通常分为两部分:第一部分是序文，又称为“志”，北朝隋唐多用骈文撰写，宋元明清多用散文撰写，叙述死者姓名、家世和生平事迹;“铭”则用韵文写就，主要是对逝者的悼念和赞颂。一方墓志未必“志”和“铭”都有，很多只有“志”，早期的墓志或只有“铭”。
据记者调查，从公布的材料来看，隋唐墓志占出土墓志的半壁江山之多。从收藏情况来看，公立的陕西西安碑林博物馆，收藏的约1600方墓志中主要为隋唐墓志，四分之一为明清墓志;公立的河南洛阳千唐志斋博物馆、民营的陕西西安大唐西市博物馆则如其名，收藏的绝大多数墓志为北朝唐代墓志。但据任昉介绍，从《新中国出土墓志》收录的墓志看，明清墓志占出土墓志的三分之二;从参与《新中国出土墓志》编集工作的各省市县文博考古单位收藏情况看，明清墓志的数量也绝对居多。丛书《新中国出土墓志》执行主编王素认为：“大家觉得明清墓志数量不多，是学界对明清墓志不重视，文博考古单位不愿花时间整理公布的缘故。”此外，盗掘出土的明清墓志，大多被弃舍毁坏或移作他用，这也是人们感到明清墓志数量不多的一个缘故。那么，墓志究竟起源于何时?在学界，至少有五种说法：
一是“秦朝说”。这种说法的根据，是1979年末至次年6月，秦陵考古队在始皇陵封土西赵背户村发掘了32座秦代刑徒墓，清理出残缺废弃的墓瓦文共计18件19人(内有1件刻2人信息)。这些约公元前221至210年刻写下的文字内容很简单，多为记录刑徒的姓名、籍贯。任昉介绍，因其内容与用法已具备了标志墓主人身份的性质，属于当时一种特殊的志墓方式，所以考古报告编写者把这批秦刑徒墓瓦文，称作“我国发现的最早的墓志”，国内的一些学者对此也持认同观点。
二是“西汉说”。此说主要见于文献史料，如清代学者叶昌炽《语石》引王昶《金石萃编》说：“《西京杂记》称前汉杜子春(约前30-约公元58年)，临终作文刻石，埋于墓前。《博物志》载，西京时，南宫寝殿有《醇儒王史威长之葬铭》。此实志铭之始，今皆不传。”
三是“东汉说”。在学界，1929年在洛阳东北郊出土的东汉延平元年(106年)《贾武仲妻马姜墓记》，由于记死者姓名、家世、生平事迹及死葬日期甚详，被认为是我国发现的最早的用石头刻制的墓志。学者罗振玉曾为之题跋曰：“汉人葬记前人所未见，此为墓志之滥觞。”(《辽居稿》)。考古学家马衡、赵万里等也都主此说。在洛阳金石文字博物馆，记者见到了原本流散在全国各地的16块“东汉刑徒砖”。副馆长朱晓辉介绍，以前全国服劳役的人都派驻到洛阳做苦力，死后就找块砖头刻志记铭，记录了刑徒的部属、刑徒性质、狱所名称、刑名、姓名和死亡日期等简略内容，与死者尸骨共埋。比如其中一块“东汉少府若卢砖铭”上书隶书23字，文为：“右部无任少府若卢髡钳徐孟延平元年六月十九日物故”。朱晓辉认为，刑徒砖的发现从一个侧面反映了当时的社会风气，“挺人性的”。
任昉认为，上述秦汉墓砖(石)，或被称为“早期墓志”开始萌芽。当时已经存在了多种标志墓葬的形式，出现了墓志的雏形。其中，有的以墨书或朱书大字题写在墓室过道的粉壁上，有的则刻成单独的小型碑石立于墓中，还有各种形制互异的柩铭、封记、墓记等石制品与砖制品，显示出墓志的初始状况。“秦汉时期，我国早期墓志虽然没有确定的载体、固定的形式和陈设位置，但已经为魏晋时期墓志的发展开创了先导。”
四是“魏晋说”。自东汉建安十年(205年)，曹操“以为天下凋敝”下令禁碑，又因战事频繁、政局动乱，以至许多墓葬被盗。黄初三年(222年)魏文帝下诏，决定取消墓地上一切设施和标志。也许是世人追念亡者之情仍望有所寄托，于是产生了将地表刻石埋入墓中的墓志铭形式。可以说，“禁碑令”和丧葬制度的改革，促进了这一时期墓志的发展。魏晋时期，一些植立墓中、形似碑状的墓志和长方形的墓志数量增多。但当时的墓志仍无定制，形式和内容都与地面上的墓碑相同，只是形体缩小而已。有作圭型的，有作竖长型的，多称为“铭”。任昉认为，在形制上不统一的魏晋墓志，系南北朝时期墓志定型的前身。
五是“刘宋元嘉年说”，以往论及墓志起源大多据此说。这是因为早年出土于山东益都的南朝刘宋大明八年(464年)《刘怀民墓志》，是现在已知的最早自称“墓志铭”的石刻。在这块方形石刻上，首题直书“宋故建威将军齐北海二郡太守笠乡侯东阳城主刘府君墓志铭”，且志文、颂文俱全，直接证明了这类墓志文字的性质。清代端方《陶斋藏石记》卷五云：“刘怀民志作于大明七年，适承元嘉之后，此志铭文字导源之时代也。”
任昉认为，南北朝时期是墓志定型的“关键期”。东晋灭亡后，南朝墓志承晋制继续流行，北魏统一北方后，孝文帝加速汉化，在丧葬仪式等方面使用汉制。民族文化的融合、佛教文化的风行，使墓志在上层社会普遍使用，成为“王公以下，咸共遵用”的葬制，促进这一时期墓志的定型。北魏墓志不仅数量增多，形制大多呈正方形，墓志虽大小不定，但内容已趋于统一，后世墓志只是在此基础上小有变化而已。“关于墓志的起源，虽然众说不一，但由此我们可将墓志的涵义界定为四：一是志墓主人，二是埋在墓内，三是有相对固定的载体，四是有一定的行文格式。”任昉说。