最早的火箭是火药应用的产物，而火药又是中国古代四大发明之一，这就为我国古代劳动人民发明火箭提供了物质基础，火箭作为古代中国劳动人民的最早的发明之一，已经得到世界公认。今天，世界各国的许多科技史书都有这样的记载：“早在13世纪，中国就已发明了火箭。”
据史书记载，公元969年（宋太宗开宝元年），宋朝的冯义升和岳义方等人便制造了火药火箭。在此基础上，公元1000年（宋真宗咸平十三年），宋朝神卫水军队长唐福，按照反作用推进的原理，制成了一种军用火箭，并把它献给朝廷，受到了嘉奖。这种火箭的箭杆上绑着一个装满了火药的竹筒，箭杆尾部装有箭形翼。火药点燃后，用弓把箭射出去，不仅比弓箭速度快、射程远，而且能够使其保持飞行的稳定性，这种火箭的原理同现代火箭是一致的。
从公元11世纪至13世纪，我国发明的火药火箭已在军事上得到了较为广泛的应用。在宋与金、元两国的交战中，宋军就经常使用上述类型的火箭，在元代，人们在箭上装上锋利的刀剑，放在架子上发射，能打到300米远的敌人阵地上。
后来，随着元军西征，火箭传到了阿拉伯各国；而欧洲人则是在同阿拉伯人交战时才接触到火箭技术的。从此，中国的火药火箭开始向世界各国传播。