现在，欧姆定律是经典物理中一个浅显的电学定律，但自1800年伏打发现电流和电堆，一直到1821年温差电池和1820年电流磁效应发现之后，欧姆才于1826年发现了电流的定律。因为当时电阻、电压等概念还没有出现，同时也没有一个高灵敏电流计来测定电流的强度值。一个未知规律的取得，无论今天看来有多么简明易懂，都需要科学家付出辛勤的努力和勇敢的探索。
欧姆定律是通过类比法发现的。欧姆认为电流现象与热现象很相似：导热杆中的热流相当于导线中的电流，导热杆中的两点之间的温度相当于导线中两端之间的驱动力。如果导热杆中两点之间的热流强度正比于这两点之间的温度差时，那么电流强度也应该正比于驱动力。但是，无论如何类比也只不过是一种思维活动，其结论还要由实验来检验。
欧姆用伏打电池或温差电池做实验时，遇到了测量不准确的困难。他转向利用电流的磁效应设计了一个电流扭秤。经过大量实验发现，通过计算的数值和实验数值基本吻合。欧姆正式在《金属导电定律的测定》中公布了这样的规律：电流强度与导线长度成正比。1827年又在《动电电路的数学研究》中作了数学处理，得到一个更加完满的公式：SR·E。其中S表示导线的电流强度，R为电导率，E为导线两端的电势差，这就是著名的欧姆定律。
欧姆生于埃尔兰根的一个锁匠家里，没有接受过正式的教育。他的论文发表后，曾遭到非难，但他的工作逐渐得到人们的重视。1841年英国皇家学会授予他科普利奖。1849年当他62岁时，被任命为慕尼黑大学的非常任教授。后人为了纪念他在电学方面为人类做出的贡献，把电阻的单位定为“欧姆”。