当人们远足旅行至荒野丛林或越洋过海，翱翔云海时，常常需要辨别方向。风和日丽的艳阳天，我们可以借助太阳辨方向；布满星辰的皓月夜晚，我们可以寻找北极星辨南北。如果遇到阴天，白天看不到太阳，晚上找不到星星，那该怎么办呢？这对迷失方向的人来说，该是苦恼之极的问题。中国劳动人民经过长期生产实践发明的指南针结束了人类靠天辨认方向的历史。
指南针在各不同的历史发展时期，有不同的形体和名称，如指南车、司南、指南鱼、指南针、罗盘仪、陀螺仪等。这不同的名称，说明了人类对指南针精确指向性的研究是经历了一个漫长的探索过程而日臻完善的。
中国最早的指南针是指南车。关于指南车的发明人说法不一。传说公元前2000多年，黄帝发明了指南车。黄帝和蚩尤大战。蚩尤能作大雾，弄得黄帝部下的战士辨别不清东南西北，迷失了方向。黄帝为战胜蚩尤，经过几夜的苦思冥想，创制了指南车，用来指示方向，大败蚩尤，成为华夏族的最高首领。
有人则指南车的发明归于周公。据说周公当政的时候，西方诸侯都派使者来朝贺，越裳氏在极远的南方，也派使者来进贡。周公怕越裳氏的使者回去时迷失方向，使造指南车送给他。
众说纷纭，莫衷一是。不过，指南车正式见史书记载则始于东汉。以后三国南北朝、北宋时期，都有人制造指南车。根据北宋时期燕肃把指南车献给皇帝的那篇公文，可以知道他制造的指南车的形状和内部构造。它是一辆装载着长方形车箱的双轮车，车箱外面有形象生动的雕刻和色彩鲜明的图画作装饰，非常美观。车箱里面是整套精巧的机件，和车箱顶上站着的可以转动的木偶相关联。那木偶平举一手作指示方向的样子。指南车用四匹马拉着，行动的时候，不管车身拐弯大小，木偶的手指始终指向南方。
战国时候，我国冶金业兴起和迅猛发展，人们在寻找铁矿的时候，发现一种磁铁矿，即磁石。磁石的发现和对其性能的掌握，在指南针的发明史中具有决定性意义。
磁石有一个区别于别种矿石的显而易见的特性，就是它的吸铁性。最初人们无法正确解释这一现象的奥秘，于是就拿母子情来比附：“石，铁之母也。以有慈石，故能引其子；石之不慈者，亦不能引也。”东汉时期一位大学者高诱对此看法大发宏论，代表了当时大多数人的看法。所以，先秦和秦汉古籍中都把磁石写成“慈石”。大约到了唐代，“慈”字才改为“磁”。由于磁石具有吸铁的特性，人们还送给它一个浑名——吸铁石。
人们掌握了磁石的吸铁性之后，在各个方面应用它。秦始皇曾用磁石修筑阿房宫的北阙门以防刺客。用磁石以滤釉水中的铁屑，曾是烧制白瓷的一道重要工序。在制药的过程中，往往用磁石吸去铁制杵臼留在药中的铁屑。磁石也应用于医疗上，《本草纲目》记载了宋代人用磁石吸铁作用来进行某种外科手术，如在眼里或口里吸取某些细小的铁质异物。到了现代已发展成为一种专门的磁性疗法，对关节炎等疾病显示出良好的疗效。然而，发现并利用磁铁的指向性，制造出指南针，则是中国对世界文明的一项更伟大的贡献。
用磁石制成的指向仪器，最早称之为司南。司南就是指南的意思。它大概问世于战国时期。
《韩非子·有度篇》里有“先王立司南以端夕朝”之语。关于司南的有关记载，不绝于战国、秦汉、六朝乃至隋唐的古籍中。20世纪三四十年代，中国著名的文博学家和科技史家王振铎研究并复原了司南。指出它是用天然磁铁磨制成的勺状之物，投置于刻有天干地支和八卦二十四方位的光圆铜盘上，微微转动勺把，待静止时，勺把指向南方。由于天然磁石在琢制为司南的过程中，不容易找出准确的极向，而且也容易因受震动而失去磁性，因而成品率低。
同时也因为这样琢制出来的司南磁性比较弱，而且在和地盘接触的时候转动摩擦阻力比较大，效果很不好，因此这种司南未能得到广泛使用。但是，司南为我国后来发明指南针奠定了基础。它是人类从靠天辨向到以物指向的历史飞跃的转折点。
从司南到指南针，经历了漫长的演变过程。伴随着军事、生产和堪舆的发展需要，人们经过长期的探索和实验，终于发现了人工磁化方法，为制作简单实用的指南针取得了工艺上最关键的突破。曾公亮主编的《武经总要》（约成书公元1044年）中有“指南鱼”的记载：用碳钢片制的鱼形小船，长二寸（约65厘米），宽五分（约16厘米），放在炭火炉中烧红，用铁钳夹出来，鱼头翘起朝南，鱼尾下垂冲北，鱼放入水中冷却。这是一个非常了不起的发现和发明，它含有丰富的科学道理。近现代科学表明，碳钢加热到一定程度，让它在地磁场中急速冷却，使其产生相变，可获得剩磁性。指南鱼正是利用这种地磁场磁化法产生出来的。至于制作过程中让鱼尾稍微向下倾斜，表明从经验上已知道利用地球磁场的磁角来增大磁化强度。
小小的指南鱼捕获的磁性虽然有限，却打开了利用地磁造福人类的无限广阔的前景。
另一种人工磁化方法是“磁石磨针锋”。它发明于北宋时期，在沈括的《梦溪笔谈》中有明确记载：“六家以磁石磨针锋，则能指南。”钢针经磁石摩擦之后，便被磁化，可以指南。
这种方法简便有效，导致了指南针的问世。直到19世纪现代电磁铁出现以前，几乎所有的指南针都是采用这种人工磁化法制成的。以后各种名目繁多的磁性指向仪器，都是以这种磁针为主体，只是磁针的形状和装置法有所变化。
关于磁针的装置法，沈括在《梦溪笔谈》一书中，详细介绍了4种：把磁针横贯灯芯，浮水上，架在碗沿或指甲上，以及用缕丝悬挂起来。其中第一种方法应用得最为广泛。这种漂浮在水上的指南针被称为“水针”，它导致了最早的罗盘诞生。
南宋陈元靓在《事林广记》中，介绍了当时流传民间的另外两种装置方法：木刻的指南鱼和指南龟。木刻指南鱼是把一块天然磁石塞进木鱼腹，让木鱼浮于水上指南。木刻指南龟的指向原理与木刻指南鱼相似，它的磁石安在木龟腹中，但是它有更加独特的装置法，就是在木龟的腹部下方挖一个小穴，然后把木龟安在竹钉子上，让它自由转动。这就是说，给木龟设置一个固定的支点，拨转木龟，待安它止后，它就处于南北指向。
正如在使用司南时需要地盘配合一样，在使用指南针时也需要有方位盘相配合，故此指南针也叫罗盘针。磁针和方位盘联成一体，称为罗经盘或罗盘。罗经盘的出现，是指南针发现史上的一大进步，只要一看磁针在方位盘上的位置，就能定出方位来。罗盘有水罗盘和旱罗盘两种。它们的区别在于：旱罗盘的磁针是以钉子支在磁针的重心处，并且使支点的摩擦阻力十分小，磁针可以自由转动。显然，旱罗盘比水罗盘有更大的优越性。它更适用于航海，因为磁针有固定的支点，而不会在水面上游荡。但是，它在海上应用仍有很大的不方便，当盘体随海船做大幅度摆动的时候，常使磁针过分倾斜而靠在盘体上转动不了。1560年，意大利的卡尔达诺发明了新的磁针装置。这是一种利用三环式悬挂法的装置，无论船如何颠簸摇摆，磁针都能准确地保持水平状态。因此磁针指示的方位更加准确。这种装置叫罗盘仪，是航海中最重要的工具，非常适用于木船。然而铁船出现之后，磁针受铁的影响失去作用。为了消除磁针的指示误差，人们又想了各种办法。例如，在磁针旁这放置永久磁铁或在两侧放置铁球。1874年，英国的凯尔文发明了不受铁影响的准确的罗盘仪。
利用磁针，不仅能确定方位，还能测定方位角和磁倾角，从而能够确定位置。指南针的发明是一项具有划时代意义的伟大成就。作为一种指向仪器，指南针在军事、生产、日常生活、地形测量上起过重要作用，尤其是它引起了在航海、发现、探险、殖民和商业方面的巨大活动——几乎是一次革命。
在指南针作用于航海之前，海上航行只能依据日月星辰来定位，一遇阴晦天气就束手无策。
唐文宗开成三年（公元838年）日本和尚圆仁来中国求法，后来写有《入唐求法巡礼行记》一文，描述了在海上遇到阴雨天气的时候混乱而艰辛的情景。当时，海船的航向无法辨认，大家七嘴八舌，有的说向北行，有的说向西北行，幸好碰到了一个波绿海浅的地方，但是也不知道离陆地有多远，最后只好沉石停船等待天晴。
我国是世界航海史上首先应用指南针的国家。北宋朱緒在《萍洲可谈》中写道“舟师识地理，夜则观星，昼则观日，阴晦观指南针”。这时海上航行还只是在日月星辰见不到的日子里才使用指南针。随着指南针在海上航行的不断应用，人们对它的依赖与日俱增。南宋时，“舟舶来往，惟以指南针为则，盖一舟人命所系也”。指南针已成了船舶航行辨别方向的护身法宝，须臾不可离开。
指南针使人类获得了全天候航海能力，再也不必担心阴晦天气无法观测天象而迷失方向，由此开辟出远洋航行的坦途。明代大航海家郑和率领宠大的船队七下西洋，罗盘立下了大功。
罗盘指引航线，进哪个港湾，转哪个海口，以及如何避开礁石浅滩，都用指南针来确定。
磁石指南针（普通称为航海罗盘）在中国经历了漫长而缓慢的发展之后，经阿拉伯商人和海员传入欧洲。当时正是欧洲各国航海家和冒险家大显身手，出尽风头的时代。他们在商业需要和宗教热忱的强大动力下，梦寐以求地要去远方探险和贸易，就像有人曾说过的“欧洲是饥渴的”，许多青年人渴望冒险。少数的国王则渴望征服。在欧洲人口稠密的地区，成千上万的人渴望土地和渴望能有所得。除此之外，富有的和小康的人们有一种日益增长的欲望：要求便利的设备和奢侈品。许多这样的东西可以从非洲和亚洲得到。但是土耳其人占据中东后，商人们不容易从旧路到达亚洲，因此他们开始寻找新路，也寻找新的供应源泉。而这时，指南针的传入和迅速改进，使他们的远行成为可能。商人们和传教士们一同走出欧洲，一同旅行到世界最远的地方。
1487年，葡萄牙航海家迪士斯率领探险队第一次绕过好望角。1492年，达伽马发现了抵达印度的新航线。同年，意大利热那亚水手哥伦布率领的船队首次登上美洲土地，把地理大发现的热潮推向了顶峰。1519～1522年，葡萄牙航海家麦哲伦领导的船队完成了人类第一次环绕地球一周的旅行。广阔的新大陆和新航线的开辟，更新了欧洲的整个生活，打开了全球市场。
远洋航行技术的诞生，是开辟新航线的前提，而小小的罗盘，使浩瀚的海洋得辨四维，是这门新技术得以突破的关键所在。指南针为我国郑和开辟中国到东非航线提供了可靠的保证，导引出使那个时代为之震动的地理大发现的新航线。这大大加速了世界经济发展的进程，为资本主义的发展提供了必不可少的前提。