关于墓志铭的起源说法一直以来都莫衷一是，比较具有代表性的有西汉起源说、东汉起源说、魏晋起源说、南朝起源说，还有现代学者的论断。
首先介绍一下西汉起源说，因为在《西京杂记》中有记载，西汉的时候有个叫杜邺的人，在临终的时候自己写了一篇散文，并且将其刻在石板上后把这块石板埋在他的墓前，有人认为这是墓志铭的开始。《博物志》中认为西汉的王史威长始创墓志铭。
另一种说法认为墓志铭始于东汉，因为我国出土最早的墓志铭《贾武仲妻马姜墓记》始刻于东汉延平元年，还有彭山崖墓张宾公妻穿中文、冯基石椁题字都始刻于东汉。
第三种说法认为墓志铭起源于魏晋。《唐代墓志汇编》中认为自魏开始缪袭为了告诉后代子孙便立了墓志铭，而《封氏见记》中认为缪袭改葬父母想要后人记住才立了墓志铭。日本人著的一本《关于墓志的起源》中认为魏晋时期严禁墓前立碑，但是上有政策下有对策，人们将小型石碑埋进墓里以取代立碑，这被认为是墓志铭的起源。
第四种说法认为墓志铭起源于南朝。在《南齐书》中有刘宋时不立碑而立墓志铭来歌功颂德的说法。
然而现代学者却有不同的论调，他们认为秦汉时期就已经存在与墓志铭作用相同的东西了，等到魏晋时期这种墓志铭形式已经诞生了，而南北朝时期墓志铭这一说法便开始应用了。