自古以来对梵字的创造者有多种传说。唐玄奘《大唐西域记》卷二说：“详其文字，梵天所制，原始垂则，四十七言”（47个字母）。“梵王天帝作则随时，异道诸仙各制文字。”印度所使用的最古老文字，依近代从印度河流域的哈拉巴（Harappa）及莫汗佐达罗（Mohenjodaro）等地出土的材料来看，当为史前时代的象形文字。但其起源究属何体系，目前尚无定论。而梵字与腓尼基文字（现代欧洲文字的原形），同属闪族文字系统，已为近代学术界所共识。在公元前700年左右，印度商人与美索不达米亚地方的人（闪族的一支）接触，乃将闪族的二十二个字母传往印度。经过印度人的整理，大约在公元前400年时，终于制作出四十个左右的字母。随着时代与地方的不同，书法与字体也逐渐地产生差异。公元一世纪左右，北方的梵字逐渐变成方形字体，南方的梵字逐渐变成圆形字体。至四世纪，两者之间的差异已极其明显。其中，北方由四世纪至五世纪间发展成笈多（Gupta）文字，六世纪再由笈多文字衍生悉昙字母（Siddham）。悉昙字母后来传入中国及日本等地，同时笈多文字也流传于龟兹、于阗等地而形成特殊字母，为各种中亚古语言所采用。
语言特点梵语语法与其他古代印欧语言（如拉丁语与希腊语）语法相似，屈折变化繁复。名词有三种性（阳性、阴性与中性），三种数（单数、双数与复数）及八个格（主格、宾格、工具格、与格、夺格、属格、位格与呼格）。动词变位包括单数、双数、复数；人称有第一、第二、第三人称；时间分现在时、未完成时、完成时、不定过去时、将来时、假定时；语态有主动（为他）、中间（为自）、被动；语气分直陈语气、祈愿语气、命令语气。
另外，梵文还有一个和其他印欧语言不同的特点，即连音变化规律（sandhi），也就是说，在句子中，某词尾字母与某词首字母在一起的时候，就要发生相应的变化；在一个词中，某字母和某字母如果符合一定的位置关系，也要进行相应的变音等。而梵语中复合词汇多而且较长，书写时又要基本上连在一起，连写时字母要变成连写形式，加上中间的变音，其阅读之难度可想而知。
十进制人类算数采用十进制，可能跟人类有十根手指有关。亚里士多德称人类普遍使用十进制，只不过是绝大多数人生来就有10根手指这样一个解剖学事实的结果。实际上，在古代世界独立开发的有文字的记数体系中，除了巴比伦文明的楔形数字为60进制，玛雅数字为20进制外，几乎全部为十进制。只不过，这些十进制记数体系并不是按位的。
首先，现在人们日常生活中所不可或离的十进位值制，就是中国的一大发明。至迟在商代时，中国已采用了十进位值制。从现已发现的商代陶文和甲骨文中，可以看到当时已能够用一、二、三、四、五、六、七、八、九、十、百、千、万等十三个数字，记十万以内的任何自然数。这些记数文字的形状，在后世虽有所变化而成为现在的写法，但记数方法却从没有中断，一直被沿袭，并日趋完善。十进位值制的记数法是古代世界中最先进、科学的记数法，对世界科学和文化的发展有着不可估量的作用。正如李约瑟所说的：“如果没有这种十进位制，就不可能出现我们现在这个统一化的世界了。”
古巴比仑的记数法虽有位值制的意义，但它采用的是六十进位的，计算非常繁琐。古埃及的数字从一到十只有两个数字符号，从一百到一千万有四个数字符号，而且这些符号都是象形的，如用一只鸟表示十万。古希腊由于几何发达，因而轻视计算，记数方法落后，是用全部希腊字母来表示一到一万的数字，字母不够就用加“符号”等的方法来补充。古罗马采用的是累积法，如用ccc表示300。印度古代既有用字母表示，又有用累积法，到公元七世纪时方采用十进位值制，很可能受到中国的影响。现通用的印度——阿拉伯数码和记数法，大约在十世纪时才传到欧洲。在计算数学方面，中国大约在商周时期已经有了四则运算，到春秋战国时期整数和分数的四则运算已相当完备。其中，出现于春秋时期的正整数乘法歌诀“九九歌”，堪称是先进的十进位记数法与简明的中国语言文字相结合之结晶，这是任何其它记数法和语言文字所无法产生的。从此，“九九歌”成为数学的普及和发展最基本的基础之一，一直延续至今。其变化只是古代的“九九歌”从“九九八十一”开始，到“二二如四”止，而现在是由“一一如一”到“九九八十一”。
有学者认为，北京周口店的一万多年前的山顶洞人遗址出土的骨管，以一个圆点代表1，两个圆点并列代表2，三个圆点并列代表3，五个圆点上二下三排列代表5，长圆形可能代表十。中国着名数学史家，国际科学史研究院通讯院士李迪教授认为山顶洞人骨管符号是“一种十进制思想”。
另有学者对中国青海乐都县柳湾出土一千多枚新石器时代骨片进行研究，发现它们分属马厂、半山、齐家和辛店四个中文化型。骨片长度为2~2.4厘米，厚约1毫米。骨片上有刻痕，少的一个，多不超过八个，每个骨片上的刻痕数目不超过十个，他们以此认为新石器时代已有加法运算和十进制。另有学者认为，甲骨文中一横代表1，两横相叠代表二，三横代表三，四横代表四，X代表五，“人”形代表六，“十”代表七，）（代表八，“九”已经是九；|代表十，||代表20，|||代表三十，||||代表四十；此外50，60，70，80，90，100，200，300，400，500，600，700，800，900，1000，2000，……9000，10000……40000都有不同的符号。商代甲骨文“已形成完整的十进制系统”。北京的中国历史博物馆藏有一把安阳殷墟出土的象牙尺，长15。78厘米，分为十寸，说明中国商代的十进制几经用在长度上了。中国周代金文的纪数法，继承商代的十进制，又有明显的进步，十进数量级符号有十、百、千、万、亿，如西周金文“伐鬼方……俘万三千八十一人”，“武王遂征四方，俘人三亿万有二百三十”，出现了位值记数，例如“俘牛三百五十五”，其中三百五十五写成“三全XX”，前面的“全”是金文的“百”，后面两个XX是五十五，省去了“十”，出现了位置概念，但尚未形成完整的位值制。金文商鞅量铭还出现分数。春秋战国时代，出现严格的十进位制筹算记数，以空代表0，也发明了用于十进位制乘法、除法的九九表公元前3400年左右，古埃及有基于十进制的记数法。但这种十进制并无位值的概念。
吠陀时代前800年的印度仪轨经类文献中的绳法经中包含大量分数的应用，但并无证据显示此时的文字记数系统是十进制的。
公元前500年，希腊古典时期的阿提卡数字为十进制系统。
公元前300年，印度的婆罗迷数字为十进制。婆罗迷十进制毫无位值概念。出土于巴基斯坦的古印度巴克沙利手稿可能是世界上最早的包括0的“真正的”十进制系统，但它的具体时间有争议。
《卜辞》中记载说，商代的人们已经学会用一、二、三、四、五、六、七、八、九、十、百、千、万这13个单字记十万以内的任何数字，但是现在能够证实的当时最大的数字是三万。甲骨卜辞中还有奇数、偶数和倍数的概念。
我们有个成语叫“屈指可数”，说明古代人数数确实是离不开手指的，而一般人的手指恰好有十个。因此十进制的使用似乎应该是极其自然的事。但实际情况并不尽然。在文明古国巴比伦使用的是60进位制（这一进位制到现在仍留有痕迹，如一分=60秒等）另外还有采用二十进位制的。古代埃及倒是很早就用10进位制，但他们却不知道位值制。所谓位值制就是一个数码表示什么数，要看它所在的位置而定。位值制是千百年来人类智慧的结晶。零是位值制记数法的精要所在。但它的出现却并非易事。我国是最早使用十进制记数法，且认识到进位制的国家。我们的口语或文字表达的数字也遵守这一原则，比如一百二十七。同时我们对0的认识最早。
十进制是中国人民的一项杰出创造，在世界数学史上有重要意义。着名的英国科学史学家李约瑟教授曾对中国商代记数法予以很高的评价。“如果没有这种十进制，就几乎不可能出现我们现在这个统一化的世界了”，李约瑟说：“总的说来，商代的数字系统比同一时代的古巴比伦和古埃及更为先进更为科学。”