关于元素的学说，即把元素看成构成自然界中一切实在物体的最简单的组成部分的学说，早在远古就已经产生了。
不过，在古代把元素看作是物质的一种具体形式的这种近代观念并不存在。无论在我国古代的哲学中还是在印度或西方的古代哲学中，都把元素看作是抽象的、原始精神的一种表现形式，或是物质所具有的基本性质。这样的例子是很多的。
大约在公元前900年前后，我国西周时代的《易经》中有这样几句话：“易有太极，是生两仪，两仪生四象，四象生八卦。”这是一个以“太极”为中心的世界创造说。
到公元前403～公元前221年，我国战国时代又出现一些万物本源的论说，如《老子道德经》中写道：“道生一，一生二，二生三，三生万物。”又如《管子·水地》中说：“水者，何也？万物之本原也。”
我国的五行学说是具有实物意义的，但有时又表现为基本性质。我国的五行学说最早出现在战国末年的《尚书》中，原文是：“五行：一曰水，二曰火，三曰木，四曰金，五曰土。水曰润下，火曰炎上，木曰曲直，金曰从革，土（曰）稼穑。”译成今天的语言是：“五行：一是水，二是火，三是木，四是金，五是土。水的性质润物而向下，火的性质燃烧而向上。木的性质可曲可直，金的性质可以熔铸改造，土的性质可以耕种收获。”在稍后的《国语》中，五行较明显地表示了万物原始的概念。原文是：“夫和实生物，同则不继。以他平他谓之和，故能丰长而物生之。若以同裨同，尽乃弃矣。故先王以土与金、木、水、火杂以成百物。”译文是：“和谐才是创造事物的原则，同一是不能连续不断永远长有的。把许多不同的东西结合在一起而使它们得到平衡，这叫做和谐，所以能够使物质丰盛而成长起来。如果以相同的东西加合在一起，便会被抛弃了。所以，过去的帝王用土和金、木、水、火相互结合造成万物。”
在古印度哲学家的思想中也有和我国五行相似的所谓五大。这就是公元前7世纪～公元前6世纪古印度学者卡皮拉（Kapila）提出来的地、水、火、风、空气。
西方自然哲学来自希腊。被尊为希腊七贤之一的唯物哲学家塔莱斯（Thales，约公元前624～公元前547）认为水是万物之母。希腊最早的思想家阿那克西米尼（Anaximenes，公元前585～公元前525）认为组成万物的是气。被称为辩证法奠基人之一的赫拉克利特（Heraclitos，公元前535～公元前475）认为万物由火而生。古希腊的自然科学家、医生恩培多克勒（Empedocles，公元前490～公元前430）综合了以前的哲学家们的见解，在他们所指的水、气和火之外，又加上土，称为四元素。古希腊哲学家亚里士多德（Aristotle，公元前384～公元前322）综合了但也歪曲了这些朴素的唯物主义的看法，提出“原性学说”。他认为自然界中是由4种相互对立的“基本性质”——热和冷、干和湿组成的。它们的不同组合，构成了火（热和干）、气（热和湿）、水（冷和湿）、土（冷和干）4种元素。“基本性质”可以从原始物质中取出或放进，从而引起物质之间的相互转化。这样，宇宙的本源、世界的基础便不是物质实体，而且可以离开实物而独立存在的“性质”了，这就导向唯心主义了。
13～14世纪，西方的炼金术士们对亚里士多德提出的元素又作了补充，增加了3种元素：水银、硫磺和盐。这就是炼金术士们所称的三本原。但是，他们所说的水银、硫磺、盐只是表现着物质的性质：水银——金属性质的体现物，硫磺——可燃性和非金属性质的体现物，盐——溶解性的体现物。
到16世纪，瑞士医生帕拉塞尔士（Paracelsus，1493～1541）把炼金术士们的三本原应用到他的医学中。他提出物质是由3种元素——盐（肉体）、水银（灵魂）和硫磺（精神）按不同比例组成的，疾病产生的原因是有机体中缺少了上述3种元素之一。为了医病，就要在人体中注入所缺少的元素。
无论是古代的自然哲学家还是炼金术士们，或是古代的医药学家们，他们对元素的理解都是通过对客观事物的观察或者是臆测的方式解决的。只是到了17世纪中叶，由于科学实验的兴起，积累了一些物质变化的实验资料，才初步从化学分析的结果去解决关于元素的概念。
1661年英国科学家玻意耳对亚里士多德的四元素和炼金术士们的三本原表示怀疑，出版了一本《怀疑派的化学家》小册子。书中写道：“现在我把元素理解为那些原始的和简单的或者完全未混合的物质。这些物质不是由其他物质所构成，也不是相互形成的，而是直接构成物体的组成成分，而它们进入物体后最终也会分解。”这样，元素的概念就表现为组成物体的原始的和简单的物质。
拉瓦锡在肯定和说明究竟哪些物质是原始的和简单的时候，强调实验是十分重要的。他把那些无法再分解的物质称为简单物质，也就是元素。
此后在很长的一段时期里，元素被认为是用化学方法不能再分的简单物质。这就把元素和单质两个概念混淆或等同起来了。
而且，在后来的一段时期里，由于缺乏精确的实验材料，究竟哪些物质应当归属于化学元素，或者说究竟哪些物质是不能再分的简单物质，这个问题也未能获得解决。
拉瓦锡在1789年发表的《化学基础论说》一书中列出了他制作的化学元素表，一共列举了33种化学元素，分为4类：
Ⅰ，属于气态的简单物质，可以认为是元素：光、热、氧气、氮气、氢气。
Ⅱ，能氧化和成酸的简单非金属物质：硫、磷、碳、盐酸基、氢氟酸基、硼酸基。
Ⅲ，能氧化和成盐的简单金属物质：锑、砷、银、铋、钴、铜、锡、铁、锰、汞、钼、金、铂、铅、钨、锌。
Ⅳ，能成盐的简单土质：石灰、苦土、重土、矾土、硅土。
从这个化学元素表可以看出，拉瓦锡不仅把一些非单质列为元素，而且把光和热也当作元素了。
拉瓦锡所以把盐酸基、氢氟酸基以及硼酸基列为元素，是根据他自己创立的学说——一切酸中皆含有氧。盐酸，他认为是盐酸基和氧的化合物，也就是说，是一种简单物质和氧的化合物，因此盐酸基就被他认为是一种化学元素了。氢氟酸基和硼酸基也是如此。他之所以在“简单非金属物质”前加上“能氧化和成酸的”的道理也在于此。在他认为，既然能氧化，当然能成酸。
至于拉瓦锡元素表中的“土质”，在19世纪以前，它们被当时的化学研究者们认为是元素，是不能再分的简单物质。“土质”在当时表示具有这样一些共同性质的简单物质，如具有碱性，加热时不易熔化，也不发生化学变化，几乎不溶解于水，与酸相遇不产生气泡。这样，石灰（氧化钙）就是一种土质，重土——氧化钡，苦土——氧化镁，硅土——氧化硅，矾土——氧化铝。在今天它们是属于碱土族元素或土族元素的氧化物。这个“土”字也就由此而来。
19世纪初，道尔顿创立了化学中的原子学说，并着手测定原子量，化学元素的概念开始和物质组成的原子量联系起来，使每一种元素成为具有一定（质）量的同类原子。
1841年，贝齐里乌斯根据已经发现的一些元素，如硫、磷能以不同的形式存在的事实，硫有菱形硫、单斜硫，磷有白磷和红磷，创立了同（元）素异形体的概念，即相同的元素能形成不同的单质。这就表明元素和单质的概念是有区别的，不相同的。
19世纪后半叶，在门捷列夫建立化学元素周期系的时间里，明确指出元素的基本属性是原子量。他认为元素之间的差别集中表现在不同的原子量上。他提出应当区分单质和元素两个不同概念，指出在红色氧化汞（HgO）中并不存在金属汞和气体氧，只是元素汞和元素氧，它们以单质存在时才表现为金属和气体。
不过，随着社会生产力的发展和科学技术的进步，在19世纪末，电子、X射线和放射性相继被发现，导致科学家们对原子的结构进行了研究。1913年英国化学家索迪（F。Soddy，1877～1956）提出同位素的概念。同位素是具有相同核电荷数而原子量不同的同一元素的异体，它们位于化学元素周期表中同一方格位置上。
其后，英国物理学家阿斯顿在1921年证明大多数化学元素都有不同的同位素。元素的原子量是同位素质量按同位素在自然界中存在的质量分数求得的平均值。
在这同一时期里英国物理学家莫塞莱（H。G。J。Moseley，1887～1915）在1913年系统地研究了由各种元素制成的阴极所得的X射线的波长，指出元素的特征是这个元素的原子的核电荷数，也就是后来确定的原子序数。
这样，如果把同位素看作是几种不同的单独的元素，这显然是不合理的。因为决定元素的原子的特征不是原子量，而是它的核电荷数。
1923年，国际原子量委员会作出决定：化学元素是根据原子核电荷的多少对原子进行分类的一种方法，把核电荷数相同的一类原子称为一种元素。
当然，直到今天，人们对化学元素的认识过程也没有完结。当前化学中关于分子结构的研究，物理学中关于核粒子的研究等都在深入开展，可以预料它将带来对化学元素的新认识。