据说秦始皇在位时，身边网罗了一批术士来为他寻求长生不死仙药。有一天，一位叫徐福的术士奏本说：“在东方的大海上有三座神山，名叫蓬莱、方丈、瀛洲，仙人们都在那里居住。请皇帝让我率领一批童男童女前往寻求。”秦始皇很高兴，给了他数名童男童女，又为他造个大船，让他从现在的山东日照市附近出海了。谁知徐福却一去不返，不知道他把这些男女少年带到哪个仙山上去了。
山东胶南琅琊台的秦始皇准奏并遣徐福入海求仙的雕像群几千年过去了，秦始皇早已成为历史的陈迹。但徐福渡海求药的故事并没有为人们忘却。有些历史学家认为，当时徐福他们是横渡过黄海和朝鲜海峡到达了日本。如果真是这样，徐福可以算得是中国航海家中的先驱人物了。
茫茫大海，无边汪洋，在海上航行可不是件容易的事。首先航向要找准，否则，如果航向偏离1°，那就可能永远也到达不了目的地，终生在海上漂荡吧。有人可能会说：要找准航向好办，可以用太阳，也可以用星星定位。不错，这的确是个好办法，远古时期的人们就是这么做的。但是如果碰到了阴雨天怎么办？碰到那种“阴风怒号，浊浪排空，日星隐曜，山岳潜形”的天气怎么办？需知，这种天气在大海上是极常见的。这种时候，太阳啊，星光啊，一切可以利用的目标全都不见了，剩下的只有船只蛋壳般漂在海上。然而这些都难不倒智慧的古代人。人类的航海业还是越来越发达。到隋唐时期，中国不仅同朝鲜、日本海上往来十分频繁，而且同阿拉伯各国也有了海上航线。宋朝时，中国庞大的商船队经常往返于南太平洋和印度洋之间。
是什么原因使航海家们不再惧怕没有太阳和星光的日子，而继续保持他们正确的航向呢？是当时航海最有效的方向指示仪器——指南针。
宋朝学者朱彧在他的《萍洲可谈》一书中记录了指南针在航海中的作用：“舟师识地理，夜则观星，昼则观日，阴晦观指南针。”随着指南针在航海上的不断应用，人们对它的依赖也与日俱增。南宋《梦粱录》一书中说：“风雨冥晦时，唯凭针盘而行，乃火长掌之，毫厘不敢差误，盖一舟人命所系也。”这真是大海航行靠舵手，舵手要靠指南针，没有科学领航，光凭舵手的经验和感觉，有时就要坏事。到元代时，指南针已经成为航海上最重要的仪器了，无论什么时候都用指南针领航。这时还专门编制出罗盘针路，船行到什么地方，采用什么针位，一路航线都一一标识明白。明代郑和下西洋，从江苏刘家港出发到印尼苏门答腊，沿途航线都标有罗盘针路，指南针为开辟中国到东非航线提供了可靠保证。以后，哥伦布航行抵达美洲大陆和麦哲伦环球航行也都依赖的是指南针。
指南针和由指南针发展而来的许多仪器对人类发展产生了重大贡献。
指南针大约出现在中国战国时期。最初的指南针是用天然磁石制成的，样子像只勺，圆底，可以在平滑的“地盘”上自由旋转，等它静止的时候，勺柄就会指向南方。古人称为“司南”。东汉学者王充在他的书中说：“司南之杓投之于地，其柢指南。”地盘上四周刻有分度，共二十四向，用来配合司南定向。古时人出远门要带上司南，以免迷失方向。这种司南的模型今天在北京历史博物馆中还能见到。
后来，随着社会生产力的不断发展，尤其是航海业的不断扩大和发展，人们发现了人工磁化的方法，从而出现了指南鱼和指南针。指南鱼就是用薄铁叶裁成鱼形，然后用地磁场磁化法使它带上磁性。在需要定向时，把它浮在水面，铁叶鱼就能指南。指南针是用磁石摩擦钢针得到的。钢针经磁石摩擦磁化后，就可以指南。古代所有的指南针都是用这种人工磁化的方法得到的。用丝线把磁针悬挂起来，使它处于平衡状态，针的两端就指向南北方向。当然，使用指南针也需要方位盘的配合。方位盘和磁针结为一体的仪器就是罗盘。罗盘仍有二十四向，但盘已由方形演化为圆形。
中国的指南针大约在公元12世纪末到13世纪初传入阿拉伯，然后再由阿拉伯传入欧洲。那时到中国来的阿拉伯人都乐于乘坐中国船只，因为中国船船身大，结构坚固，航速快。这就为罗盘传入西方提供了基础。西方在学会使用罗盘后，根据实际需要又进行了科学的改进。由于罗盘在随船体大幅度摆动时，常使磁针过分倾斜而靠在盘体上转动不了。欧洲人设计了称为“方向支架”的常平架，它是由两个铜圈组成，两圈的直径略有差别，使小圈正好内切于大圈，并用枢轴把它们联结起来，然后再用枢轴把它们安在一个固定的支架上。罗盘就挂在内圈里，这样，不论船体怎么摆动，罗盘总能保持水平状态。这种仪器的原理已经是比较近代化了。如果人们对某一种仪器或工具，只知道它的功能而不知道它为什么会有这种功能，那还不能说对它的认识具有科学水平。指南针也是这样，如果人们只知道它指向固定方向不变，而不去研究这其中的为什么，人类就只好处于前科学的状态，而还没有进入科学的殿堂。当然，在科学发展史上，人类总是从先发现某种功用性质出发，然后才去探究功用或现象背后的为什么。对指南针也是这样，古时人们从注意它的磁性出发而一步步认识内在的东西。
由于磁石具有吸铁性质，古人把这种性质比做母子相恋，认为“石，铁之母也。以有慈石，故能引其子；石之不慈者，亦不能引也。”汉朝以前，磁石都写成“慈石”。人们还注意到磁石不能吸引铜，更不能吸引瓦，这就是“及其于铜则不通”，“而求瓦则难矣”。宋朝的陈显微和俞璞对此曾作了探讨，认为磁石所以吸引铁，是有它本身内部的原因，是由铁和磁石之间内在的“气”的联系决定的。明朝刘献廷也认为磁石引铁是由于它们之间具有“隔碍潜通”的特性。他还记录了磁屏蔽现象：“或向余曰：‘磁石吸铁，何物可以隔之？’犹子阿孺曰：‘唯铁可以隔之耳。’”虽然这种解释是错误的，但是由于当时的科学发展水平，能考虑到这个问题已经难能可贵了。
在磁学中，磁偏角、磁倾角和磁场强度是地磁三要素。磁偏角是由于地球磁场的南北极和地理上的南北极并不完全重合产生的，磁倾角是地球磁场强度方向和当地水平夹角。欧洲人对磁偏角的最早发现是哥伦布海上探险的1492年，磁倾角的发现还要更晚一点。在中国，这一切的发现要早于欧洲。关于磁倾角，宋朝就已经察觉这个事实了。人们指出，指南针磁化过程中，它的北向总是向下倾斜。这就隐含着当时人们已经意识到倾角的存在。
宋朝的沈括在记述天然磁石摩擦钢针可以指南时指出：“然常偏东，不全南也”。这是世界上最早的关于磁偏角的记载。地磁学告诉我们，磁偏角是随着地点的变化而变沈括化的，又由于地磁极在不断变化，磁偏角也随之变化。所以沈括说“常微偏东”，而不是说“恒微偏东”，说明他意识到磁偏角还是有些微变化的。到南宋时，磁偏角因地而异的情况更有明确记载，并被应用到罗盘上。所谓“天地南北之正，当用子午。或谓江南地偏，难用子午之正，故丙壬参之。”这是说，在地理子午线和地磁子午线一致的地方，用指南针可以；而中国东南部，地理子午线和地磁子午线有一个夹角，所以需要用其他方法来修正一下。
作为四大发明之一的指南针，历来是中国人引以为豪的，这一发明不但说明了中国古代人民的智慧和观察能力，而且是中国对世界历史发展的巨大贡献。如果说，科学进步的历史是全世界各国人民共同推动的，那么说中国古代曾处于这个行列的前面，则是一点也不过分的。