在远古时代，人死后并不都埋葬。《孟子》讲：“上世尝有不葬其亲者，其亲死，则举而委之于壑。他日过之，狼狐食之，蝇蚋嘬之。尔家颇为不忍，于是垒埋而掩之。”最初的葬仪极为简单，据《淮南子》说：“死陵者葬陵、死泽者葬泽，故节财薄葬，闲服生焉。”即死在哪埋在哪。《礼记》上有孔子的说法：“吾闻之，古也墓而不坟。”即埋葬后不起坟堆。后随着鬼魂民间信仰的出现，墓葬出现了公共墓，有单葬、合葬的墓。墓葬的方向，中原地区基本上都是头向西。
随着居住的自然环境和居民的生产方式、生活习惯、宗教信仰的不同，丧葬的方式也不同。除了土葬习俗外，还有悬棺葬，即将棺材置于天然的岩面、岩洞、岩缝内，当地称“挂岩子”。这种葬俗以福建的悬棺葬最为久远，大约在夏代以前就出现了，遗存下来的只有武夷山的千仞绝壁上的一处。至今保存最多、最集中的是四川省的珙县麻糖坎的悬棺。
火葬在中国传统的儒家观念中是不容许的。汉代以后，佛法东移，印度僧侣盛行的火葬仪式也随之而来。依照教规，僧人死后要火化。后来此俗也向民间渗透。不过，火葬的习俗与中国传统的伦理观念是不相容的。传统的儒家观念向来主张土葬，认为自己的身体发肤，受之父母，不敢毁伤，火葬有违孝道。汉代以前，焚尸是最大的耻辱，并且是严厉的刑律。宋太祖赵匡胤有禁止火葬的诏书，明朝更有惩处火葬的法律，其中不准毁弃人的死尸，违者当斩。这里的毁弃，包括火葬。清代律条更有“旗民丧葬概不许火化”的规定。虽然如此，火葬在中国的古代社会仍然存在，其中一部分是随所信奉宗教而为，一部分是因贫困无资而为。他们的骨灰或弃于水中，或撒在田野，即使放在瓦罐、木匣里埋葬，也没有坟头。