古代人称箭为“矢”。箭头叫“镞”或“镝”。各种弓弩都使用矢，可以说，矢与弓是同时代的产物。最早的矢很简单，用一根树棍或竹竿，截成一定长度的箭杆，在一端削尖就是箭。而矢的真正起源应是原始社会石器时代，人们把石片、骨或贝壳磨制成尖利的形状，安装在矢杆一端，这就制成了有石镞、骨镞或贝镞的矢了，比起单用木棍竹竿削的箭可算进了一大步。为了较准确地命中目标，必须把握住箭在飞行中的方向，于是人们在箭杆的尾部装上羽毛，使箭的形制趋于完善。
商代遗址中曾出土了带铜镞的箭，全长85厘米，并有皮革制的箭袋。由于箭在战争中如同子弹，有去无回，消耗量大，即使有了铜镞箭也不可能大量应用，仍以石镞和骨镞箭为主。箭虽然只有箭镞、箭杆、箭羽三部分组成，但古人制作时非常讲究各部分的尺寸、形状、比例、选材等。单就箭镞来看，殷墟出土的铜镞有四种：一是薄匕式，类似匕首的锋部，镞中有脊，两侧分叶，外缘带刃，两刃向前聚成锋并向后形成倒刺，中脊向下伸出，形成连接箭杆的铤。二是三棱式，这种镞呈长条形，有三刃棱，上有尖锋，下出铤。三是圆锥式，镞头短而体轻，上锐下圆，形似圆锥。四是平头式，形如圆柱，镞头平而无锋，仅可撞击不能射杀，是专门用做习射时的“志矢”。在实践中证明“三棱式镞”最适用，其优点是：制作简便，镞体坚固，镞锋锐利，穿透力强。还因镞体近似流线型，故箭飞行时阻力小，方向性好，保证了箭射出后的稳定性和准确性，又具有较强的杀伤性能。所以，到战国末年，三棱铜镞以其优势逐步取代了各式铜镞，成为箭镞的主要形制。陕西秦俑坑出土的铜镞数以万计，三棱铜镞占99.85%，足以说明先秦时期已由多种镞型趋于单一形式的三棱镞。
箭杆古代称“梃干”，一般用竹或木两种材料制做。古时候，人们把用竹制做的箭杆称为箭；把木制的称为“矢”。根据古代植物资源的分布，我国东南地区多用竹制箭杆；东北、西北地区多用桦木、杨木、柳木；华北地区则多用萑柳。另外箭羽对于箭的飞行速度及命中率有着密切的关系。古人对箭羽的选择及用量的多少都有严格的规定。如果羽毛太多，会减慢箭的飞行速度，射程缩短；羽毛过少，飞行时箭身不平衡，影响准确度，因此必须有恰当的比例。《考工记》中论述了一种检测方法：将箭杆投入水中，根据其沉浮部分的长短，以求出装尾羽的比例。箭羽以翢翎最好，其次是角鹰羽、鸱枭，最差是雁鹅羽，遇风易斜窜。但由于上好的箭羽来源少，宋代人发明了风羽箭，即在箭尾安羽处剔空两边，利用凹进空槽的气流保持箭在飞行中的稳定性，这种设想非常科学。另外还有用硬纸做的纸羽箭，或短小的无翎箭。大弩上使用的长箭则是铁片制成的铁羽箭。
中国现存最早的最完整的箭，是西汉昭帝始元六年（公元前81年）制的。此箭全长67厘米，有三棱铜镞、竹杆，带三根尾羽。镞和羽都经缠丝涂漆与箭杆相固定。为增大箭的杀伤效力，后汉时耿恭发明了“毒箭”。三国时，关羽攻打樊城，遭到曹仁500名弓弩手的乱箭阻击，右臂中一弩箭，箭头有毒，毒已入骨，右臂青肿，不能运动，遂请华伦医治。神医华伦曰：“此乃弩箭所伤，其中有乌头之药，直透入骨，若不早治，此臂无用矣。”乌头是一种药用植物，中草药名叫“附子”，其茎、叶、根均有毒。那时少数民族习用的弓弩箭头多带剧毒，中箭者，皮肉烂，烂到五脏而死。可见毒箭的致残、致死率是很高的。随着金铠铁甲的出现，要求箭更具穿透力。晋代多用钢铁箭镞。唐代箭分为竹箭、木箭、兵箭、弩箭四种，前两种用于狩猎，后两种用于战斗。用于战斗的箭镞用钢制成，刃部较长，能穿透坚甲。
明清时代，出现了一种飞行中带响的箭叫“鸣镝”。据《前汉演义》描述，这种箭出自匈奴国太子冒顿之手。冒顿为争王位，欲收服民心，以便为所欲为，便发明了一种骨箭，上面穿孔，发射时有声，称为“鸣镝”，由他专用。遂传令部众：“汝等看我鸣镝所射，便当一齐射箭，不得有违，违者立斩！”此后，冒顿常率部众外出狩猎，只要他鸣镝一发，部众万矢齐攒，稍有延迟，立毙刀下。众人甚是畏惧，不敢怠慢。一日，冒顿牵出自己心爱的好马，用鸣镝射马，部下亦争相竞射，冒顿见状喜笑颜开，遍加奖赏。然而冒顿并不因此而满意，又先后用鸣镝射杀自己的爱妻，射杀了国王头曼的好马，部众闻声急射，稍有迟疑者，立即丧命。从此，只要呜镝一响，众箭飞至，无一敢违。冒顿认为时机已成熟，这一日，请国王一同出猎，自己随在马后，用鸣镝对准头曼射去，部众随声同射，匈奴国王头曼毙于乱箭之下，冒顿弑父自立为王。明清时的“鸣镝”是在箭镞上加了一个用骨或兽角制成的小哨。箭的发展，是随弓弩的不断改进而发展的，强弓大弩的出现，要求箭具有良好的贯穿力，所以对箭镞的要求也不断提高。