加、减、乘、除的符号不是由同一个人在同一时期发明的，它的完成经过了大约500年的历史。
“＋”、“－”符号大约在500多年前，由德国数学家魏得美发明。他在实践中体会到，必须确定一种简明的加减符号来方便运算和书写，于是，他按照大写字母T的书写规律，先横后竖并在横上再加一竖来表示增加，即成了“＋”的样子。又根据减法的定义，从“T”号上去掉下面一竖，即成“－”号。
“＝”号是在大约400年前，由英国学者列科尔德发明的。由于当时人们习惯于将平衡的东西看成相等，所以，他认为表示平衡最形象的书写方式是画两条长度相等的平行线，于是，“＝”号诞生了。
“÷”号是在300年前由瑞士数学家哈纳发明的。他认为除法是将一个数分解开来，所以，他用一条横线将一个完整的东西切开，这样，就出现了“÷”号。同期，英国数学家欧德莱发明了“×”号。他认为乘法是加法的一种特殊形式，于是，就把“＋”号转动45 °成“×”，作为乘号。