既然我国古代有许多物理学的知识，但又没有物理学专书，那么，我们从什么地方去找物理学史料呢？大致说来有以下几种来源。
第一，古文献的记载。
第二，古代器物的分析。我们祖国幅员辽阔的大地上留有大量几千几万年前的遗物，包括器物与建筑，这些就是当年文化科学水平的综合反映，是最具体、最生动的记载，也是最过硬的史料。从这些器物中可以分析出当时人们在制造过程中运用了哪些物理知识。例如，诺贝尔物理奖获得者杨振宁博士，观察了大量西周时代的青铜器，发现当时人们对称已经具有物理学中一种极其重要的思想观念——“对称”。又如，西安半坡村出土的新石器时期的遗址里，有一种尖底瓶，引起人们的极大兴趣，它可以印证文献的记载，从中分析出距今5000～7000年以前的人们具有了哪些力学知识。那里还出土一种叫做“甑”的泥制器皿，世界著名科学史家李约瑟博士（1900～1995）[英]认为，那可能是人类最原始的蒸气发生器，这在热学史上应当是很重要的。此外，一些古建筑也向我们提供了丰富的研究内容，譬如山西省的应县佛宫寺木塔，是明暗九层、高达66.49米的纯木结构的建筑珍品，迄今已经历九百多个寒暑，不仅风雨侵蚀，经受了烈度5度以上的强烈地震就有12次之多，此外还经受了强风、炮击等强烈震动，而仍然保持完好，这反映了它的力学结构十分科学合理，从中可以分析出一系列的理论知识。还有些古建筑甚至有了类似的避雷设施，为古代电磁学的研究，提供了重要的线索。此外，还有不少古代水利工程设施如都江堰等，也能向我们提供某些流体力学的原始材料。至于现存的那些古天文仪器，更是光学史料的十分丰富的来源。编钟、鱼洗是声学史的珍贵材料的渊薮。另外，还有一些碑刻与出土文物之类的东西，有文字或图画。例如辽阳三道壕的汉墓中，有不少壁画，其中就有一幅画着风车，这使我们确知距今1700年前，人们就知道如何巧妙地使用空气流动的能量了。总之，这方面蕴藏着丰富的潜在材料。
第三，现存的某些生产工艺。一项生产工艺之中，往往是科学技术知识的综合运用与反映，其中常常寓有一定的物理原理。所以对一项古工艺的分析，可以获得某些物理学史料。当然，在今天来说，古代的工艺往往是落后、原始的，绝大部分早已废弃不用了，或者是失传了。但是也还有一些留传下来，特别是在某些少数民族地区，甚至仍然在沿用。这些可以为我们提供一定的参考，因为有的工艺过程，古书上虽然有过记载，但往往是十分简略，或者不很确切。那么流传的古工艺就成了十分宝贵的史料来源，它或者可以和文献记载相互印证，或者补古文献记载之不足。例如上古所用的摩擦取火的方法，古书就没有写出具体的过程以及所用的材料，以致引起后人理解上的分歧，甚至怀疑它的真实性。近年来，有人根据海南岛一些少数民族地区仍然使用类似的方法取火，才解决了这个问题。由此可见，古代工艺方法是一项活的物理学史料，我们要十分珍视它。
此外，我国民间还流传着大量的口头谚语。它们并不一定见之于文献记载，但却是一些长期经验的总结，它含有一定的科学内容，而且语言特别生动，内容也很丰富。专就天气谚语来说，有人就曾收集了一大本，从这些关于风霜雨露现象的生动说法中反映出大量物态变化方面的知识，而且对同一个现象，不同地区有不同的说法，分析起来也是很合于物理原理的。可以说，这里面潜存着不少物理学史料，但迄今为止还没有引起人们的足够注意。
显然，上列几项史料来源，当以文献记载为最大量。中国古书数量之多，历来都用“浩如烟海”、“汗牛充栋”等成语去形容，实在一点也不过份。这么多的书被分成经、史、子、集四部，“子”部收有关于天文、历算、农业、医学以及工艺技巧一类的书，这里面涉及一些物理知识。但是，古代没有物理专书，物理学知识是散见于几乎各种类型的书籍之中。这也是物理学科的性质所决定的。例如，上古物理学的最重要的著作《墨经》固然在“子”部，但另一部重要著作《考工记》就在“经”部。“史”部中许多“天文志”、“律历志”等篇章，又是物理学史料的宝库。“集”部收的虽然是诗文小说等文艺作品，由于这些作品题材也异常广阔，涉及自然现象典章制度等等，其中也不乏宝贵的物理学史料。小说的情节大多出于虚构，但也有写实的部分，不可避免地会反映当时的一些情况，例如隋代的《古镜记》是一部神怪小说，其中写到一面反射镜，竟然就是我国古代著名的“透光镜”。即使是纯感情、尚夸张的诗词作品，也含有物理学史料。例如梁元帝（502～548）有一首题为《早发龙巢》的诗，其中有句云“不疑行舫动，唯看远树来”，就十分生动的描述了机械运动的相对性。这样的例子是不胜枚举的。
总之，中国古代物理学史的研究是必须从一切古书中发掘史料的。中国古书没有标点符号，不同的断句读法，可以解释出不同的意义来；古汉语又是一字多义，一个字的不同解释，又可以阐发出迥异的内容。再加以古书，特别是一些笔记小说之类的书，记事往往不尽翔实，或以无作有，或以少作多，或张冠李戴，或添油加醋……因此，每每需要我们作一番鉴别的工作，要去伪存真，去芜存精。这项工作做不好，就得不到真实的史料。所以它是物理学史研究的基础。
怎样做这项工作呢？
首先是把文字释义搞明确。有些古书有它自己的特殊体例和专门用语，读的时候要严格地遵守，否则就无法理解古书的原意，那就更谈不上其他了。
其次，解释出来的科学内容务必是那个时代可能发生的。譬如有人从汉晋时代的《西京杂记》里解释出类似于X光的装置来。这显然是“以无作有”，充其量只能是当时的人们幻想有这一类的“法宝”。从战国开始就有不少古书说公输盘首先制造一种木鸟能在空中飞三天，这个例子是“以小作大”的典型。
此外，中国古书还有个真伪的问题，在我们这里就转化成为某一器物或某一概念出现的年代问题，这些都得小心地对待。