武器装备是战争的工具，也是决定战争胜负的重要因素。汉代的武器种类在先秦弓矢、殳、矛、戈、戟“五兵”基础上，有了新的发展，军士使用的武器已是多种多样。长兵器有殳、戈、矛、戟；短兵器有刀、剑；远射兵器有弩、弓；防护兵器有盔甲、盾牌；攻守的兵器有钩镶。此外还有锤、挝、杖、钺、斧等劈砍、锤砸兵器。在各种兵器之中，铁兵器所占比例越来越大，汉初晁错所列的弓弯、短兵、长戟、剑盾、矛铤等多是质量精良的铁制兵器。近年来考古发掘的长安武器库所出兵器，除少量仍为青铜制造外，绝大多数均为铁兵器，刀、剑、戟、矛、斧、骸、盔甲一应俱全，仅铁镞就达1000余件。汉代军中的武器不仅品种多，而且质量高，远远优于匈奴的兵器。
