1883年，被誉为“自动武器之父”的美国工程师希拉姆·马克沁发明了重机枪，并在第一次世界大战中显示了其势不可挡的强大威力。在著名的松姆河战役中，德军数百挺重机枪如毒蛇吐信，火舌喷溅，英法联军一排排倒下去，演出了历史上惊心动魄的一幕。马克沁重机枪从此威名远扬。
但重机枪毕竟太笨重，机动性差，难以紧随步兵实施行进间火力支援。例如马克沁重机枪，连同枪架重达244公斤，实在是太沉重了。于是人们利用重机枪的自动原理，设计制造出较为轻型的机枪，可以由一个人携带和射击，从而改变了以往许多人扛一杆枪的历史。
世界上第一挺轻机枪是由丹麦人于1902年发明的，被称为麦德森机枪。于是，有些人自然而然地以为这挺机枪就是麦德森发明的，其实不然。麦德森机枪的全称是麦德森·雷克斯·D.R.R.S·斯考博。O·H·麦德森是当时丹麦的国防部长，由于他热心支持丹麦军队采用这种武器，加上他是政府的高级军事官员，所以这挺机枪的全称就把他的名字排在首位，以致以后丹麦国内外简称这挺机枪时就只称麦德森机枪；雷克斯是指英国雷克斯兵工厂，当年英国是个老牌的帝国主义和殖民主义国家，长期奉行凡是不在英国制造的武器就不予采用的政策，丹麦这种机枪尽管不在英国本地生产，但是凭借冠以英国厂商名称，也得以获准在英国使用；D.R.R.S是丹麦制造这种机枪的厂商——丹麦哥本哈根轻机枪综合制造厂丹麦文的缩写字母；而全称最后的斯考博，则是丹麦哥本哈根轻机枪综合制造厂厂长的名字，他被广泛认为是麦德森机枪的设计者。
关于斯考博发明麦德森机枪，至今还有这样一段悬案。据说，斯考博于1902年2月14日申请了有关轻机枪基本自动方式的专利。但问题是，丹麦哥本哈根皇家军用武器厂的厂长拉斯马森已于1899年6月15日就申请过与之内容非常相似的专利并得到了批准。而且，拉斯马森恰好将他专利的使用权转让给了哥本哈根轻机枪综合制造厂。那么，斯考博的专利是抄袭了拉斯马森，还是他的发明有所创新，人们不得而知。
作为一种紧随步兵实施行进间火力支援的武器，轻机枪与属于阵地武器的重机枪设计要求是不同的。重机枪配有专用枪架，能够实施远距离持续射击，特别是将机枪设在隐蔽处，对向己方防区排列成一字散兵线冲击的敌步兵进行扫射时，可以用最小的弹药消耗量获得最大的杀伤效果。而战场对轻机枪的要求则是重量轻，可快速隐蔽架枪射击，以加大步枪手的火力威力，所以轻机枪不要求专配枪架。斯考博根据这些要求出发，设计了装在枪身上的两脚架。其次由于重机枪要求连续射击，所以持续发射一定数量弹药后要对枪管加以冷却，马克沁机枪就采用水冷方式，在枪管外面加了一个很粗的水套；而轻机枪为了减轻武器重量，就不能采用水冷方式，于是斯考博设计了气冷式机枪，采用弹链供应子弹。最早生产的麦德森机枪就是采用弹链供弹，以后才改用弹匣。
麦德森机枪的诞生与广泛应用，对其他国家是一种挑战和威胁。不久，1906年和1907年，法国、英国、德国也分别研制出自己型号的轻机枪。第一次世界大战后，由于对步兵机动性的重视，轻机枪的研制工作备受重视，一度出现了许多类型的轻机枪。第二次世界大战后，单兵携带使用的小口径机枪不断涌现，与最早期的轻机枪相比，现代轻机枪的性能大幅度提高，而重量却大大减轻了，例如有的轻机枪重量仅有5公斤左右。