在风和日丽的艳阳天，太阳给我们指明了方向；在满目星辰的夜晚，北极星教我们辨明南北。中国劳动人民经过长期生产实践发明的指南针结束了人类靠天辨认方向的历史。
最早的指南针是指南车，它的记载始于东汉，它是一辆装载着长方形车厢的双轮车，车厢里面是整套精巧的机件，和车厢顶上站着的可以转动的木偶相关联。木偶平举着手做指示方向的样子。指南车用四匹马拉着，行动时，木偶的手指始终指向南方。
战国时，人们在寻找铁矿的时候，发现一种磁铁矿，即磁石。磁石有个明显的特性，就是吸铁性。人们掌握了磁石的吸铁性之后，在各个方面应用它。用磁石制成的指向仪器，最早称之为司南，就是指南的意思。
司南是天然磁石制成的，样子像一把勺，底部圆圆的，可在平滑的“地盘”上自由旋转。那块方方的地盘是指罗经盘，四周刻有八干（甲、乙、丙、丁、庚、辛、壬、癸、）和十二支（子、丑、寅、卯、辰、巳、午、未、申、酉、戌、亥），加上四维（乾、坤、巽、艮）共二十四向。定向时，人们把司南的柄轻轻一碰，待旋转的磁勺慢慢静止下来，勺柄就指向南方，告诉人们所处的方位。
天然磁石会因受震、受热而失去磁性，且本身很重，与地盘接触转动时的摩擦力又较大，因此指向效果不是很好，没能广泛推广应用。
到了唐末宋初时期，我们的祖先终于发明了两种人工磁化的方法，指南针也就应运而生了。
一种方法是制作指南鱼。即把烧红的铁片放置在子午线的方向上。
烧红的铁片内部分子处于比较活动的状态，使铁分子顺着地球磁场方向排列，达到磁化的目的。蘸入水中，可把这种排列较快地固定下来。
不过用这种方法所获得的磁性较弱，影响了指南鱼指南的准确性。
另一种方法是用天然磁石来摩擦铁针，使铁针磁化，制成指南针。
这种磁化方法简单而有效，所以就很快的推广开了。这是一种利用天然磁石的磁场作用，使钢针内部磁畴的排列趋于某一方向，从而使钢26针显示出磁性的方法。利用磁针，不仅能确定方位，还能测定方位角和磁倾角，从而能够确定位置。
磁针的装置方法有四种：一是水浮法，将磁针上穿几根灯心草浮在水面，就可以指示方向；二是碗唇旋定法，将磁针搁在碗口边缘，磁针可以旋转，指示方向；三是指甲旋定法——把磁针搁在手指甲上面由于指甲面光滑，磁针可以旋转自如，指示方向；四是缕悬法——在磁针中部涂一些蜡，粘一根蚕丝，挂在没有风的地方，就可以指示方向了。