铁矿石是地壳的主要组成成分之一，铁在自然界中的分布很广，但是人类发现铁和利用铁却比黄金和铜晚。首先，这是由于天然的单质状态的铁在地球上是找不到的，而且它容易氧化生锈；其次是它的熔点（1 539℃）比铜高得多，使它比铜难于熔炼。
人类最早发现的铁是从天空落下的陨石。陨石中含铁的质量分数很高，它是铁和镍、钴等金属的混合物。考古学家曾经在今天伊拉克境内美索不达米亚（Mesopotamia）乌尔（Ur）城的古代苏美尔人（Sumerians）的坟墓中，发现一把陨铁制成的小斧。在埃及第五至第六王朝（公元前2400年前）的金字塔所藏的宗教经文中，记述着太阳神等当时重要神像的宝座是用铁制成的。这显然也是从陨石得来的，因为铁在当时被认为是带有神秘性的最珍贵的金属。埃及人干脆把铁叫做“天石”。阿拉伯人传说，天上的金雨落进沙漠里变成了黑色的铁。在古希腊文里，“星”和“铁”是同一个词。
1972年，在我国河北省藁城县台西村的商代（约公元前16世纪～约公元前1066）遗址曾出土一件铜钺，上面镶铸有铁刃。钺（yuè）是我国古代一种像斧子的兵器。铁刃铜钺的发现表明我国劳动人民早在三千多年前已经认识了铁，掌握铁的锻造性能，识别铁与青铜在性质上的差别，能够把铁进行锻打加工并和青铜铸接成器，增强铜的坚韧性。铁刃虽已全部锈蚀，但经过科学鉴定，证明铁刃是用陨铁锻成的，因为铁中不含有人工冶炼过程夹带的硅酸盐等杂质，同时铁锈中含有镍和钴。
我国出土的用陨铁锻成的铜器还有：1931年，在我国河南浚县出土的商末周初的铁刃铜钺和铁援铜戈各一件，于解放前流入美国，现存华盛顿弗里尔艺术馆。还有，1978年在北京市平谷县南独乐河出土的商代铁刃铜钺。
由于陨石来源极稀少，从陨石中得来的铁对生产起不了什么作用。只是随着青铜熔炼技术的成熟，才逐渐为铁的冶炼技术的发展创造了条件。虽然最初提炼出来的铁在硬度和防腐蚀性能等方面都不如青铜，但是由于铁矿在自然界中的分布比铜广泛，而且铁器的好些性能比铜器好，遂使铁器能够迅速取代青铜器和石器。
我国古代人民什么时候开始使用铁，虽然说法不一，但多数历史学者和科技史研究者断定是在公元前1 000年的前后。
从目前考古发掘的结果来看，我国最早人工冶炼的铁是在春秋（公元前722～公元前481）战国（公元前403～公元前221）之交的时期出现的。江苏六合县程桥镇春秋墓出土的铁条、铁丸和河南洛阳市水泥制品厂战国早期灰坑中出土的铁锛（音bēn，削平木料的平头斧）、铁（音bó，古代锄田除草的农具）是迄今为止能确定的我国最早的生铁工具。经过冶金学家们检验，铁条属于早期的块状炼铁锻成的；铁丸和铁锛、铁是生铁铸件。这些铁器证明我国在春秋晚期出现块状炼铁的同时或稍后就出现了生铁冶铸技术。人类在冶炼铁的过程中，最初因鼓风设备的限制，炼出的铁不能熔化，只是块状的海绵体熟铁，性质柔软，可锻而不可铸，不宜制作硬度较大的工具，只是在提高炼铁炉的温度后，才能得到熔融的生铁，用于铸造。
欧洲一些国家在公元前1 000年前后也生产块状炼铁，但多废弃不用，直到公元14世纪才使用铸铁，其间经历了十分漫长的发展道路。而我国古代只用较短的时间就实现了这一技术的突破，出现了铸铁。
我国生铁的发明是人类用铁的重大发展，也是我国劳动人民对人类作出的一项重大贡献。英国科学史学家贝尔纳（J。D。Bernal）在他编著的《历史上的科学》（伍况甫等译，北京：科学出版社，1959年，82页）一书中写到：“在欧洲，实在直到14世纪，古代所用的铁，总是在手力鼓风的小型泥炉内，用木炭经低温还原法而制成的。把所得的海绵状的未经熔过的纯铁锭，打成比较软的熟铁条，再经锻工和熔接，就成一些更复杂的铁制品。”又写到：“在古时候，作为金属的铁却有一个很严重的缺点，就是炉中鼓风不够，就熔不了它，所以浇铸就留给青铜独用了，例外的是中国，早在公元前二世纪，中国已能铸铁。”这说明我国生铁的出现比欧洲早1 000多年。
我国的生铁铸造技术，在很长的一段时期内一直处于世界领先地位。随着产量的增加和技术的提高，除铁制的生产工具、生活用具以及兵器外，又出现大型铸造的宗教艺术品。如现存的西安雁塔里的大铁钟，是唐代（618～907）的作品；世界上著名的河北省沧州大铁狮是五代后周广顺三年（公元953年）的作品；山西太原晋祠铁人是北宋年代（960～1127）的作品。
我国炼钢技术的发展也很早。汉朝赵晔所著的《吴越春秋·阖闾内传》中记载着：“阖闾请干将铸作名剑二枚。干将者，吴人也，与欧冶子同师，俱能为剑……干将作剑，采五山之铁精……使童女童男三百人鼓橐装炭，金铁乃濡，遂以成剑。”阖闾是春秋末年今江苏一带的吴国君（公元前514～公元前496在位）。可见，距今2000多年前，我国劳动人民已能炼钢，而且规模还不小。文中的“橐”（tuó）按今天的字意解释是“一种口袋”，在古代是指鼓风用的皮囊；“濡”（rú）按今天的字意解释是“沾”、“渍”，在古代又作“柔韧”讲。
1978年8月5日的《人民日报》第二版刊出一则消息：“湖南省博物馆长沙铁路车站建设工程文物发掘队，从一座古墓出土一口钢剑，从古墓随葬陶器的器形、纹饰以及墓葬的形制来看，可以断定它是春秋晚期的墓葬。从而说明我国炼钢技术的出现，至少应推前200年左右，即春秋战国之交，而不是过去认为的战国中、晚期。经取样分析，这口剑所用的钢是含碳量0.5%（质量分数）左右的中碳钢，金相组织比较均匀，说明可能还进行过热处理。”
我国到西汉（公元前206～公元23）中、晚期出现了利用生铁“炒”成熟铁或制成不同含碳量的钢的炒钢技术。这是将生铁加热成半液体、半固体的状态，再进行搅拌，利用空气或铁矿粉中的氧，进行脱碳，以获得熟铁或钢。1974年在山东苍山县出土的汉安帝永初六年（112）的钢刀和1978年在徐州汉代砖室墓中发掘出的汉章帝建初二年（77）的钢剑经鉴定都是以炒钢为原料，经多次反复加热折叠锻打而成的。
欧洲用炒钢法冶炼熟铁的技术在18世纪中叶才开始出现，比我国要晚1 900余年。
在汉代炒钢技术的基础上，到南北朝（420～581）时期，我国又出现了灌钢技术。这是先将含碳量高的生铁熔化，浇灌到熟铁上，使碳渗入熟铁，增加熟铁的含碳量，然后分别用牲畜尿或油脂淬火而成钢。淬火是钢铁的一种热处理工艺，是将工件加热到适宜温度，随即在水、油或空气中冷却，以提高钢铁的硬度和强度。
在欧洲的坩埚炼钢技术发明之前，灌钢法是一种先进的炼钢技术，对后世有重大影响。