拿壹根磁化了的鋼針，橫向穿過壹塊小軟木塞，放在壹個盛水的陶瓷碗內，就是壹個浮式指南針。
我們還可以做壹個更講究的匣式指南針：
找壹個小圓紙盒或者塑料盒（不能用鐵盒）。用硬紙剪壹個和小盒壹樣大小的圓片，上面貼壹張白紙，標出S、N等字樣，把壹個塑料圖釘從背面摁在圓紙片上，把圓紙片放入盒內，盒中心就有壹個直立向上的針柱了。再找壹個廢刮胡子刀片，剪成狹長的菱形，用釘子在中心位置打壹個小坑，放在針尖上試壹試，如果不能平衡，就用剪刀修理，直到能平衡為止。把它放在強磁鐵上磁化，然後架到盒內的針柱上。在盒口蒙上壹層透明玻璃紙（用玻璃更好），把原來的盒蓋開壹個大孔再蓋上去，就是壹個盒式指南針了。
壹個能自由旋轉的磁體，在靜止的時候，總是指向南北方向。人們了解到磁體的這種特性以後，就利用它來制造指示方向的工具——指南針。
磁針靜止以後，為什麽總是指向南北呢？因為地球是個大磁體，它的兩個磁極接近於地球的兩極，在地磁力的作用下，磁針就被吸到南北方向上了。我們知道，異名磁極是相吸的，地磁的S極在北端，N極在南端，因此，磁針的N極總是指向北方，S極總是指向南方。磁針的磁極和地球的磁極並沒有接觸，它們卻能互相吸引，這表明磁體的周圍存在壹種看不見的東西，人們把它叫做“磁場”。地球磁場的存在是磁針能夠指示南北的原因。
世界上最早的指南針，要算我國戰國時期制造的“司南”了。它是把天然磁鐵琢磨成勺子的形狀，勺柄是S極，使重心落在圓而光滑的勺頭正中，然後把勺子放在壹個光滑的盤子上。使用的時候，把勺頭放平，用手撥動它的柄，使它轉動。等司南停下來，它的長柄就指向南方。那時候，有的人到山裏去采玉，怕迷失方向，就帶上司南來辨別方向。
發明司南以後，人們不斷地研究和改進指南的工具。到了北宋初年，又制造出了指南魚。它是用壹塊薄薄的鋼片做成的，形狀很象壹條魚。魚的肚皮部凹下去壹些，象小船壹樣，可以浮在水面上。把它磁化以後，放到盛水的瓷碗裏，就能指示方向了。因為水的摩擦力比固體小，指南魚轉起來比較靈活，所以它比司南更靈活更準確了。
當時還有用木頭做的指南魚，就是用壹塊木頭刻成魚的樣子，象手指那麽大。從魚嘴往裏挖壹個洞，裏面放上條形磁鐵，使它的S極朝魚頭，用蠟封住口。另外用壹根針插到魚嘴裏，指南魚就做好了。把它放到水面上，魚嘴裏的小針就指著南方。
我國不但是世界上最早發明指南針的國家，而且是最早把指南針用在航海事業上的國家。據記載，南宋的時候，航海的人已經用“羅盤”來指示航向了。這是把指南針和羅盤結合起來的指南工具。羅盤的盤有用木頭做的，也有用銅做的，盤的周圍刻上東南西北等方位，盤中央放壹個指南針。只要把指南針所指的方向，和盤上的正南方位對準，就可以很方便地辨別航行方向了。
在軍事上也用到指南針，行軍作戰的時侯，如果遇到陰天黑夜，就用指南針來辨別方向。