人类在认识数字的同时，也进行着对数字记法的探索。中国早在五六千年前就有了数字记法，到3000多年前的商朝，刻在甲骨或陶器上的数字已十分常见，这时，自然数计数都采用十进位制。甲骨文中就有从一到十、百、千、万的13个记数单位。
对于任意大于1的整数p，每个自然数都可以惟一地写成a、pn an1pn-1 …… a1p a0的形式，其中a0、a1……an-1、an是在0、1、2……P中取值的整数。于是就可以用（anan-1……a1a0），来表示这个自然数，这种表示自然数的方法称为p进制记数法。当p=2时，就得到二进制记数法；当p=10时，就是十进制记数法。
在二进制中，只有0、1两个记号，遵循逢二进一的规则。机械式计算机的创始人莱布尼茨系统研究了二进位制，其中曾受到中国古代八卦的启发。