据记载，人类在大约5000年前就开始使用车轮了，但直到18世纪80年代，还没有任何人想过把两个轮子连接起来用于交通工具。法国伯爵西夫拉克的偶然想法，拉开了发明自行车的序幕。那是1790年的一天，他行走在巴黎的街道上，因为前一天下过雨，所以路面上有很多积水，突然一辆马车从身后狂奔而来，由于街道狭窄，所以他虽然躲过了车辆，但是却被溅了一身泥水。马车走远了，他还呆呆地站在路边。他在想：路这么窄，能不能把马车的构造改变一下呢？
西夫拉克回到家后开始设计想象中的车辆，他经过反复试验终于制造出了一辆模型车，它的外形就好像给一个木马装上了两个轮子，因此被称为“木马轮”。这辆车没有传动链条，也没有转向设置，依靠人用双脚蹬地的力量向前驱动，并且只能行直道，不能拐弯。因为骑这样的车并不能节省多少力气，所以他准备继续改进。但是，不久他就病逝了。
德国人德莱斯1818年对西夫拉克的设计进行了改进，他为木轮车安装了一个可以控制方向的车头，这样就可以改变车子前进的方向了。他第一次骑车出门试验的时候，遭到很多人的嘲笑。但他并不在意，依然我行我素。一次德莱斯骑车闲逛时开过来一辆马车，车夫嘲笑他的车慢，他当即要求和车夫打赌，看谁快。路程是从村东到村西的一个来回，结果德莱斯比马车夫的速度整整快了1个多小时。
如何才能不再用双脚蹬地，而使车子前进呢？英格兰的铁匠麦克米伦解决了这个问题，他在木轮车后轮的车轴上装上曲柄，再用连杆把曲柄和前面的脚蹬连接起来，前轮大，后轮小。当骑车人踩动脚蹬，车子就会自行运动，快速地前进。这样一来，就使骑车人的双脚真正离开了地面，以双脚的交替踩动变为轮子的滚动，大大地提高了行车速度。1842年，他骑着这辆车一天行驶了20公里，由于太过兴奋，车速太快，不小心撞倒了一个小女孩，被警察抓住罚款，罪名是野蛮骑车。这是第一次因为骑车出现的被罚款事件。
为了改变自行车笨重、丑陋的样子，英国人雷诺采用钢丝辐条来拉紧车圈作为车轮。同时，利用细钢条制成车架，此时的自行车仍然保持了前轮大，后轮小的特点。现代意义上的自行车是英国人罗松在1874年发明的，他首次改变了自行车的驱动方式，给自行车装上了链条和链轮，用后轮的转动来推动车子前进。不过仍然是前轮大，后轮小的造型。
英国人斯塔利总结前人的经验，从机械学和运动学的角度出发革新了自行车，他为自行车装上了前叉和车闸，前后轮的大小也改为等同，以保持平衡，并用钢管制成了菱形车架，还首次使用了橡胶车轮。斯塔利不仅改进了自行车的结构，还改制了许多生产自行车部件用的机床，为自行车的批量生产提供了广阔的前景，因此他被后人称为“自行车之父”。他所设计的“羚羊牌”自行车最接近于今天的自行车。
苏格兰兽医邓洛普对自行车的发明也做出了极大的贡献，他把家中花园里用来浇水的橡胶管粘成圆形，打足了气，装在自行车轮子上，然后去参加自行车比赛，居然名列前茅，这一创举很快被效仿，最终橡胶车胎成为自行车最重要的部分。充气轮胎是自行车发展史上一个划时代的创举，它增加了自行车的弹性，不会因路面不平而震动，同时大大地提高了行车速度，减少了车轮与路面的摩擦力。
自行车诞生不久就被人们用到了运动方面，至今已经创造了不少记录。如今，人们不再单纯地把自行车当作一种交通工具，而是视为运动工具和健身器具，越来越多的人参与到自行车运动中来了。