我国拥有骑兵的历史较早，但是关于其起源一直都争论不休。
有一种说法认为骑兵起源于一个叫中山国的北方小国。虽然那个时候战车是主要作战工具，但是其造价很高，而中山国是个弱小的国家，没有更大的能力建造战车，又因为其作为北方的少数民族，比较善于骑马，所以他们就创建了骑兵。
第二种说法认为骑兵始于赵武灵王时期。赵武灵王推行胡服骑射，不仅体现在日常生活中，还用于军事上，骑马相对于战车更为灵活，成本也更低廉，所以他开始削减车兵，建立正式的骑兵队伍，从此以后，骑兵渐渐成为军队中的重要力量。到了汉代，战车已经退出历史舞台，再加上那个时期要经常与匈奴作战，匈奴善于骑射，所以中原也开始重视骑射，骑兵进入了鼎盛时期。从此以后，骑兵成为重要的兵种。