指南针是我国古代劳动人民的四大发明之一，也是中华民族对世界文明作出的一项重大贡献。它是根据物理学上磁学原理研制而成。它最早发明于何时，是谁人发明的，目前还没有定论，但是传统的说法，也是权威性的说法是有熊国(今河南新郑市)的轩辕黄帝发明的。西晋崔豹《古今注》说：“黄帝与蚩尤战于涿鹿之野。蚩尤作大雾，兵士皆迷。于是作指南车以示四方，遂擒蚩尤而即帝位。”
宋代刘恕的《通鉴外记》记载：“蚩尤作大雾，军士昏迷。轩辕作指南车以示四方。”南朝梁沈约的《宋书·舆服志》有更为详细地记载：“黄帝与蚩尤战于涿鹿之野。蚩尤作大雾，弥三日，军士皆惑。黄帝令风后作指南车，以别四方。指南车，一名司南车。上有仙人，车虽转而手常南指。”许多史书上说黄帝造的指南车是在车上站着一个木制的人，他一只手举起来，指着南方，任凭车子怎样转换方向，那只举起的手总是指向南方。当然这些还只是根据古代传说记载的，还不是当时人记当时事。而最早见于史书记载的还是河南新郑人韩非的《韩非子·有度篇》：“夫人臣之侵其主也，如地形焉，即渐以往，使人主失端，东西易面而不自知。故先王立司南以端朝夕。”韩非这段话作为国君怎样才不受臣子的迷惑而能明辨方向：就像人走路一样，由于地形地貌的变换，行人不知不觉地就迷失了方向，因此，要做一个司南以定其方向。它的作用和近代的指南针略同。
《韩非子》说“先王立司南以端夕”，“先王”很可能是韩王，也可能是泛指。“端朝夕”是正方向的意思，就是明确方向。这个记述是在公元前3世纪，实际上“司南”还要更早。与此同时的《鬼谷子·谋篇》一书作了这样的记载：春秋时，郑国人到远处深山密林中采玉，怕迷失方向，便把司南装在车子上，用它来指示方向。
至于“司南”是什么样子，张文彬编著的《简明河南史》是这样表述的：“司南用天然磁石经过加工制成的，象一把小汤勺一样的东西，然后把它放在一个光滑的木盘上，勺柄即自动指向南方。”由此看来，在春秋时期我们新郑人已使用了这种指南仪器。以后西汉刘安的《淮南子·万毕术记》也有记述，不过没有东汉王充的《论衡·是应篇》记述具体：“司南之杓，投之于地，其柢指南。”还证说：司南是用天然磁石琢磨而成勺形，勺底呈球状，将其南极磨成勺子的柄，然后放在地盘上，盘的四周刻着“八干”、“十二支”和“四维”二十四方位，盘子中央有直径5厘米至10厘米磨得很光滑的地方用来放勺，使用时，将勺轻轻一拨，使之转动，等勺停下来，它的长柄便指向南方。再后是北宋曾公亮著的《武经总要》记载的是：“指南鱼”。沈括《梦溪笔谈》则记载为指南针，说：“方家以磁石针锋，则能指南。”由此可见到宋代“司南”已演化为指南针了。