沉积岩是化石的老家。地壳由沉积岩、火成岩和变质岩三大类岩石组成。沉积岩往往是在水中形成，生物的生活、生长都脱离不开水的环境，所以沉积岩中埋藏化石的机会也就比较多了。
什么样的岩石才算沉积岩呢？一般而言，凡具有成层性的，已经固结坚硬的岩石，或虽固结但不坚硬的砂、土、砾等也算是沉积岩。前者如能烧石灰的石灰岩，能制作玻璃的石英砂岩，表面粗糙的砂岩；后者如作为建筑材料的砂、鹅卵石，烧砖瓦的粘土，制作瓷器的瓷土等均是。如按生成的年代来划分，一般成岩者属早期，未成岩者属晚期。
石灰岩，是保存海生无脊椎动物化石最多的一种岩石，特别是珊瑚、腕足类、海绵、软体动物等的化石最容易在这些岩层内找到。尤其是岩石成分略带泥质，单层厚度突然变薄，或具碎屑状（很多是化石碎屑）结构的石灰岩，化石相当集中。因为这些岩石所代表的沉积环境，一般都适宜于生物的麇集，当自然条件发生急剧变化时，生物的习性难以适应，于是成群死亡，尸体大量堆积，为化石的埋藏创造了有利条件，甚至整块岩石全由化石组成。
例如山东泰安地区许多寒武纪岩层中，特别是那些带有“竹叶状构造”（浅水、波浪击碎半成岩的石灰岩再度胶结成岩）、“虎皮状构造”（含有黄棕色泥质条带）、“鱼子状构造”（浅水中砂粒凝聚碳酸钙沉积）的岩层或厚层石灰岩中夹带的薄层灰岩与页岩中，往往容易找到集群性的三叶虫及其它化石。因为这些岩层，代表了环境多变，造成生物的大量死亡。
又如南京地区早二叠世时沉积了一种黑色带泥质和生物碎屑的石灰岩，其中保存了以珊瑚为主，包括苔藓虫、腕足动物、棘皮动物、各种藻类等群集性化石。实际上，这是当时的珊瑚礁，化石特别丰富。
再如长江三峡的西陵峡地区，早志留世的页岩地层中夹着好几层石灰岩，在这些灰岩中的化石，相对地较少，这正好说明沉积灰岩物质的时候，环境最宜生物生长，所以化石的埋藏量就更多了。
海生爬行类（如鱼龙、蛇颈龙）和鱼类化石，也经常在石灰岩层中发现，尤其在薄层石灰岩中。如我国南方三叠纪的时候，虽是海洋环境，但地壳经常颤动，沉积时不大安定，薄层灰岩比较发育，往能找到此类化石。
在石灰岩发育地区，特别要注意岩溶洞穴、裂隙中充满的砂、泥、碎石堆积。这里经常可以碰到新生代晚期的各种脊椎动物化石，甚至古人类化石或文化遗物。如举世闻名的北京周口店，广西各地的洞穴，都是盛产各种化石的宝库。在海洋中形成的页岩里，也比较容易找到化石，主要是具有甲壳的节肢动物的化石颇为常见。它们大多是印模，常常看见其外表特征。笔石，在这些石层里是最丰富的了。
砂岩，通常在陆上淡水环境或滨海环境中形成较多。在砂岩中容易找到生长在海边或河流、湖泊中的贝壳类化石。某些脊椎动物，如无颌类、鱼类、爬行类的化石也常在砂岩中发现。特别是砂岩、页岩、泥岩交互层发育的地区，发现化石的可能性更大，因为这些岩层的多变，正是环境多变的反映，生物大量死亡的机会也多。我国的很多恐龙化石就是在这类中生代地层里发现的。很多的哺乳类化石，则在这类的新生代地层中找到。植物化石，也经常在这些岩层中找到。
新生代后期的地层，多半是未固结或半固结的砂、土、砾，特别是湖泊或河边环境里形成的这些岩层中，是高等脊椎动物贝壳类化石的产地。例如我国黄土高原地区，黄土层底下的砂、砾、泥层中就出产丰富的哺乳动物化石。
火成岩里基本上是没有化石的。但在古代火山喷发区，火山灰降落到盆地湖泊中形成的所谓沉积凝灰岩层中则经常能遇到保存良好的大量化石。例如山东、浙江、福建、安徽等省，晚侏罗纪和早白垩纪时，发生大区域的火山爆发，山崩地裂，浓烟四起，火光冲霄，漫天云雾。大量的火山灰持续不断地降落到湖泊、河流、地面。顷刻之间埋葬了一切生物，所以在这些“火山岩系”中经常能找到鱼类、贝壳类和植物等化石。有些恐龙也在这里发现。
有时，变质岩中也可能发现化石，这是因为有些变质岩的原来岩石就是含有化石的沉积岩，如果当时并未遭到强烈的变质作用（主要是高温高压），那末，化石的形态和结构也未完全破坏，或多或少还能见到其形迹。例如南岭地区，早期古生代时期，一片汪洋，各种海生生物在此繁衍。大概在志留纪时期，此间地壳发生剧烈变动，海底沉积的岩层遭到变质，最后褶皱上升，脱离海面，形成丛山。现在，我们能在一些浅变质的岩层里发现诸如海绵、笔石、三叶虫之类的重要化石，为划分南岭地区的震旦纪、寒武纪、奥陶纪地层起到了重要的作用。当然，在变质岩地区找化石是不容易的。
岩溶洞像化石和文物仓库一样，里面常埋着大量古代脊椎动物与人类的化石，为研究地球史、人类史和生物史提供了极其宝贵的科学材料。岩溶洞很早就被人们所利用，它是远古人类喜欢栖息的场所。我们从岩溶洞里有时可以找到远古人类的遗骸，以及他们使用过的工具、用火的痕迹和绘画艺术等文化遗物。岩溶洞里被埋藏的动物骨骸，经过久远的年代，也就变成了化石。因此多少年来，岩溶洞一直是为中外地质学、古人类学、考古学和古生物学工作者所重视的地方。世界驰名的第一个南方古猿化石，部分尼安德特人的化石均出自岩溶洞。第四纪哺乳动物化石中的洞熊、洞狮、洞穴鬣狗等名称的订立，正是因为最初被发现在岩溶洞里的缘故。