指南针是我国四大发明之一。它经过漫长的岁月，跨过了司南和指南鱼两个发展阶段，最终发展成一种更加简便、更有实用价值的指向仪器。
指南针的发明，尤其是指南针在航海中的应用，打开了世界磁性导航的先河。
最初的指南针古人称它“司南”。“司南”是指南的意思。它是用天然磁石制成的。
磁石的南极磨成长柄，放在青铜制成的光滑如镜的地盘上，再铸上方向性的二十四向刻纹。这个磁勺在地盘上停止转动时，勺柄指的方向就是正南，勺口指的方向就是正北，这就是传统上认为的世界上最早的磁性指南仪器。
东汉时期的王充在他的《论衡·是应篇》中曾说：“司南之杓，投之于地，其柢指南。”这里的“地”就是上面所说的“地盘”。
从战国、秦汉、六朝至隋唐时期的古籍中，有不少关于司南的记载。如《韩非子·有度篇》里有“先王立司南以端朝夕”的话，“端朝夕”就是正四方的意思。《鬼谷子·谋篇》里也记载说，郑国的人到远处去采玉，就带了司南去，以便不迷失方向。
古代的司南是用天然磁石经人工用琢玉的办法琢磨成的。商周时期琢玉工人的技术已经很精湛，至迟在春秋时期，就已经能把软玉和硬玉琢制成各种形状的玉器，因此也能够把低硬度的天然磁石制成形体比较简单的司南来。
由于天然磁石在琢制成司南的过程中不容易找出准确的两极方向，而且也容易因受震而失去磁性，因而成品率低。
同时，也因为这样琢制出来的司南磁性比较弱，而且在和地盘接触的时候转动摩擦阻力比较大，效果不很好，因此这种司南未能得到广泛的使用。
北宋初年，出现了指南鱼和指南针。指南鱼在行军需要的时候，只要用一只碗，碗里盛半碗水，放在无风的地方，再把铁叶鱼浮在水面，就能指南。但是这种用地磁场磁化法所获得的磁体磁性比较弱，实用价值比较小。
指南针是以天然磁石摩擦钢针制得。钢针经磁石摩擦之后，便被磁化，也同样可以指南。
关于磁针的装置法，北宋时期科学家沈括亲自做了4种实验，这就是水浮法、碗唇旋定法、指甲旋定法和缕悬法。
水浮法是将磁针上穿几根灯心草浮在水面，就可以指示方向；碗唇旋定法是将磁针搁在碗口边缘，磁针可以旋转，指示方向；指甲旋定法是把磁针搁在手指甲上面由于指甲面光滑，磁针可以旋转自如，指示方向；缕悬法是在磁针中部涂一些蜡，粘一根蚕丝，挂在没有风的地方，就可以指示方向了。
其实这4种方法各有优点，它们在后来都有不同程度的发展，都在实际中得到不同程度的应用。
而且前两种的应用还更加普遍。特别是水浮法，在我国指南针发展史上占有重要的地位。
从已经发现的古代文献和地下出土文物可以看出，从两宋时期起，历元明清时期，水浮法指南针在航海上和堪舆上都一直使用。有的还使用到清代的中后期。
这种水浮法，据元代药学家寇宗奭的《本草衍义》所说，是用灯芯草或其他比较轻的物体做浮标，让磁针贯穿而过，使它浮在水面而指南。
南宋时期学者陈元靓在他所撰的《事林广记》中，也介绍了当时民间曾经流行的有关指南针的两种装置形式，就是木刻的指南鱼和木刻的指南龟。
木刻指南鱼是把一块天然磁石塞进木鱼腹里，让鱼浮在水上而指南。木刻指南龟的指向原理和木刻指南鱼相同，它的磁石也是安在木龟腹中，但是它有比木鱼更加独特的装置法，就是在木龟的腹部下方挖一****，然后把木龟安在竹钉子上，让它自由转动。这就是说，给木龟设置一个固定的支点。拨转木龟，待它静止之后，它就会南北指向。
正如在使用司南时需要有地盘配合一样，在使用指南针的时候，也需要有方位盘相配合。
最初，人们使用指南针指向可能是没有固定的方位盘的，但是不久之后就发展成磁针和方位盘联成一体的罗经盘，或称“罗盘”。方位盘仍是汉时地盘的二十四向，但是盘式已经由方形演变成环形。罗经盘的出现，无疑是指南针发展史上的一大进步，只要一看磁针在方位盘上的位置，就能定出方位来。
南宋时期学者曾三异在《同话录》中说道：“地螺或有子午正针，或用子午丙壬间缝针。”
这里的“地螺”就是地罗，也就是罗经盘。这是一种堪舆用的罗盘。这时候已经把磁偏角的知识应用到罗盘上。
这种堪舆罗盘不但有子午正针，即以磁针确定的地磁南北极方向，还有子午丙壬间的缝针，即以日影确定的地理南北极方向。这两个方向之间有一夹角，这就是磁偏角。
当时的罗盘，还是一种水罗盘，磁针还都是横贯着灯芯草浮在水面上的。北宋时期书画家徐兢的《宣和奉使高丽图经》中说，在海上航行时，遇到阴晦天气，就用指南浮针。
旱罗盘大概出现在南宋。旱罗盘是指不采用“水浮法”放置指南针磁针的罗盘，通常是在磁针重心处开一个小孔作为支撑点，下面用轴支撑，并且使支点的摩擦阻力十分小，磁针可以自由转动。显然，旱罗盘比水罗盘有更大的优越性，它更适用于航海，因为磁针有固定的支点，而不会在水面上游荡。
旱罗盘的这种磁针有固定支点的装置法，最初的思想起源很早。因为司南就有一定的支点，另外沈括的磁针装置试验，也有设置固定支点。指南针作为一种指向仪器，在我国古代军事上，生产上，日常生活上，地形测量上，尤其在航海事业上，都起到了重要的作用。
我国的指南针大约是在12世纪末至13世纪初经过阿拉伯传入欧洲的，对世界经济的发展起到了积极作用。