根据史书的记载和考古材料的发现，古代的算筹是一根根同样长短和粗细的小棍子，一般长为13～14cm，径粗0.2～0.3cm，多用竹子制成，也有用木头、兽骨、象牙、金属等材料制成的，大约270多枚为一束，放在一个布袋里，系在腰部随身携带。需要记数和计算的时候，就把它们取出来，放在桌上、炕上或地上都能摆弄。别看这些都是一根根不起眼的小棍子，在中国数学史上它们却是立有大功的。而它们的发明，也同样经历了一个漫长的历史发展过程。
古时候，有一个卖米商人去城里运货。天刚蒙蒙亮，人们都还在睡觉，他就急匆匆地出发了。走着走着，就到中午了，商人坐下来，休息了一会儿。这时，他忽然想起了一个问题，他的马车最多能运七十五袋米，现在马车上已经有三十四袋米了，最多还能运几袋米呢？商人想来想去，都不知道该运多少。
这时，有两根树枝从树上掉了下来，让商人有了一点启发：用五根树枝表示五袋米，在用七根稍长一点的树枝表示七十袋，并在下面摆三根大的树枝，四根小的树枝，再从五根树枝中拿出四根，七根树枝中拿出三根，就是四十一了！原来最多能运四十一袋。商人知道了最多能运几袋，坐起身来，骑上马，继续向县城行驶。
这就是有关算筹发明的故事。在算筹计数法中，以纵横两种排列方式来表示单位数目的，其中1～5均分别以纵横方式排列相应数目的算筹来表示，6～9则以上面的算筹再加下面相应的算筹来表示。表示多位数时，个位用纵式，十位用横式，百位用纵式，千位用横式，以此类推，遇零则置空。
为什么又要有纵式和横式两种不同的摆法呢？这就是因为十进位制的需要了。所谓十进位制，又称十进位值制，包含有两方面的含义。其一是“十进制”，即每满十数进一个单位，十个一进为十，十个十进为百，十个百进为千……其二是“位值制”，即每个数码所表示的数值，不仅取决于这个数码本身，而且取决于它在记数中所处的位置。如同样是一个数码“2”，放在个位上表示2，放在十位上就表示20，放在百位上就表示200，放在千位上就表示2000了。在我国商代的文字记数系统中，就已经有了十进位值制的荫芽，到了算筹记数和运算时，就更是标准的十进位值制了。
中国古代十进位制的算筹记数法在世界数学史上是一个伟大的创造，与世界其他古老民族的记数法相比较，其优越性是显而易见的。古罗马的数字系统没有位值制，只有七个基本符号，如要记稍大一点的数目就相当繁难。古美洲玛雅人虽然懂得位值制，但用的是20进位；古巴比伦人也知道位值制，但用的是60进位。20进位至少需要19个数码，60进位则需要59个数码，这就使记数和运算变得十分繁复，远不如只用9个数码便可表示任意自然数的十进位制来得简捷方便。
中国古代数学之所以在计算方面取得许多卓越的成就，在一定程度上应该归功于这一符合十进位制的算筹记数法。马克思在他的《数学手稿》一书中称十进位记数法为“最妙的发明之一”，确实是一点也不过分的。