1608年，荷兰人汉斯·利伯希发明了第一部望远镜。1609年，意大利佛罗伦萨人伽利略·伽利雷发明了40倍双镜望远镜，这是第一部投入科学应用的实用望远镜。
1608年，荷兰当时正处于一场针对西班牙统治的长期反叛之中，西班牙海军封锁了港口，荷兰的工商业发展几近停滞，眼镜匠汉斯·利伯希的生意很不景气。
利伯希的一名助手把玩着利伯希为一名顾客做眼镜而打磨的透镜，这个学徒发现把两块透镜相隔一定距离放在一只眼睛的前面时，从透镜望过去，远处的教堂塔尖似乎比平时拉近很多。利伯希立即意识到，学徒这不经意的发现有着重要的价值。他经过实验，确定了两块透镜间距多大时远处物体成像最大最清晰。然后利伯希制作了金属管来固定两块透镜，创造出了第一部望远镜。利伯希用希腊语“看得远”一词，把它命名为“望远镜”。
利伯希的望远镜倍率在5～7之间（与肉眼看到的相比，能将物体放大5～7倍）。但他并没有试图改良自己的发明，而是申请了专利，并把他的望远镜提供给了荷兰军队。军队试图将其保密，然而数月之内秘密就被泄露了。
望远镜发明的消息很快在欧洲各国流传开了，意大利科学家伽利略得知这个消息之后，就自制了一个。第一架望远镜只能把物体放大3倍。一个月之后，他制作的第二架望远镜可以放大8倍，第三架望远镜可以放大到20倍。1609年10月，他做出了能放大30倍的望远镜。伽利略用自制的望远镜观察夜空，第一次发现了月球表面高低不平，覆盖着山脉并有火山口的裂痕。此后又发现了木星的4个卫星、太阳的黑子运动，并做出了太阳在转动的结论。
几乎同时，德国的天文学家开普勒也开始研究望远镜，他在《屈光学》里提出了另一种天文望远镜，这种望远镜由两个凸透镜组成，比伽利略望远镜的视野更宽阔。但开普勒没有制造出他在书中所介绍的望远镜。
沙伊纳于1613～1617年间首次制作出了这种望远镜，他还遵照开普勒的建议制造了有三个凸透镜的望远镜，把两个凸透镜做的望远镜的倒像变成了正像。沙伊纳做了8台望远镜，用来观察太阳，每一台都能看到相同形状的太阳黑子。因此，他打消了不少人认为黑子可能是透镜上的尘埃引起的错觉，证明了黑子确实是观察到的真实存在。
在观察太阳时，沙伊纳装上了特殊遮光玻璃，伽利略则没有加此保护装置，结果伤了眼睛，几乎失明。荷兰的惠更斯为了减少折射望远镜的色差在1665年做了一台筒长近6米的望远镜，来探查土星的光环，后来又做了一台将近41米长的望远镜。
1670年，牛顿首次对利伯希和伽利略的设计进行了根本性改进，他发明了反射式望远镜。牛顿望远镜的光学透镜聚焦在凹面镜上，这一体系极大地增大了望远镜的倍数，而且消除了利伯希设计固有的失真现象。
1825年法国人莱玫尔发明了双目望远镜。意大利人波罗斯首次在莱玫尔发明的基础上制作了一只实用双目望远镜。
卡尔·杨斯基1949年在新泽西贝尔电话实验室工作的时候，发明了射电望远镜。射电望远镜的问世是望远镜技术最新的突破性进展。英国天文学家乔戴尔·阪克于1957年制造出了第一部实用射电望远镜。这种望远镜与光学望远镜截然不同，它是一种射电接收器，专门探测天空中某一区域发出的射电信号，就像光学望远镜只能探测天空中某一区域的光信号一样。
知识链接：最大的望远镜
望远镜是一种利用凹透镜和凸透镜观测遥远物体的光学仪器。
（1）利用通过透镜的光线折射或光线被凹镜反射使之进入小孔并会聚成像。
（2）再经过一个放大目镜而被看到。望远镜的第一个作用是放大远处物体的张角，使人眼能看清角距更小的细节。望远镜第二个作用是把物镜收集到的比瞳孔直径（最大8毫米）粗得多的光束，送入人眼，使观测者能看到原来看不到的暗弱物体。
望远镜的大小，主要是用望远镜的口径来衡量的。为了对天体作更仔细的研究和观测，为了发现更暗弱的天体，多年来人们一直在增大望远镜的口径上下工夫。但是，对不同的望远镜在口径上有不同的要求。现在世界上最大的反射望远镜，是1975年苏联建成的一台6米望远镜。它超过了30年来一直称为“世界之最”的美国帕洛马山天文台的5米反射望远镜。它的转动部分总重达800吨，也比美国的重200吨。
1978年，美国一台组合后口径相当于4.5米的多镜面望远镜试运转。这台望远镜由6个相同的、口径各为1.8米的卡塞格林望远镜组成。6个望远镜绕中心轴排成六角形，六束会聚光各经一块平面镜射向一个六面光束合成器，再把六束光聚在一个共同焦点上，多镜面望远镜的优点是：口径大，镜筒短，占地小，造价低。目前口径最大的光学望远镜是10米口径的凯克望远镜。
现在世界上最大的折射望远镜，是在德国陶登堡天文台安装的施密特望远镜，改正口径1.35米，主镜口径2米。德国这台折射镜也超过了美国最大的施米特望远镜。美国在望远镜上的两个“世界之最”被人相继夺走了。