据史料所说，清初我国已有台球流传于民间，深受人民喜爱。在我国四川、云南交界山区的苗族人就把这种台球游戏作为农闲和饭后消遣。他们用晒干的梧桐树或柑树的果子做球，用带柄的长板做拍，用门板做球台，两边对打，人们称此为“臭柑子”游戏。据资料记载，清末珠江流域盛行类似游戏，不过不用干果当球，而是用猪尿泡吹气做成小球，比干果弹性要大。或在桌上、或在地上、或向空中对打，这可谓乒乓球运动的前身。《世界青年》杂志1954年曾刊文说，台球，也就是乒乓球的创始最初是在中国和日本，英国则是欧洲输入最早的国家。
大约是在1800年，美国一个体育用品制造商别出心裁，发明了一种叫做“室内网球”的游戏，想在美国推广，但遭到冷落。他并不甘心，把它转到代理商那里，这种游戏在英国流行起来。人们将餐桌拼在一起，中间拉网对打，因此称之为“桌上网球”。当时的球用软木和橡胶做成。几年以后，实心球诞生了，桌上网球开始走向全世界。伦敦一个叫古德的人把橡胶粘贴在球拍上，用拍击球和球碰桌面时发出“乒”、“乓”的声音，故称为“乒乓”。这是美国人发明乒乓球的说法。
还有一说是源于南美洲。当地的印第安人用橡胶树的汁液做成实心球，晾干后变轻，弹性好，称为“马卡瓦”，在当地很流行。后来由哥伦布或其他探险队带回欧洲便逐渐传开来。
另一说乒乓球源于俄国。俄国沙皇时代家族的一些成员，用橡胶外缠毛球作游戏，1890年前后已相当流行。也有人说欧洲一国家的宫廷中，用象牙作球，因造价昂贵，难以推广。最流行的说法是乒乓球源于英国。在19世纪末的一天，伦敦遇到少有的闷热。两个青年看过温布尔登网球赛后，到一家上等饭馆的单间去吃饭。先是用雪茄烟盒盖当扇子，继而讨论网球技战术，拣起软木塞酒瓶盖当球，以桌子为球台，中间拉一细绳为网，用盒盖打球。碰巧侍者在一旁喝彩，闻声赶来的女店主见此情景，不禁脱口喊出“Table Tennis”。一声“桌上网球”，为乒乓球命名，一直用到今天。从此，桌上网球在大学生中，进而在全英国流行。
英国工程师詹姆斯·吉布把空心赛璐珞球从美国带到英国，取代了原来的实心球。
美国人海亚特发明的这种空心球，触拍、触桌时发出“乒”、“乓”的声音。英国一家体育用品公司用“乒乓”两字作为商标来登记。1891年，英格兰人查尔斯·巴克斯特把乒乓球作为商业专利权申请备案，获得了19070号许可证。国际乒联主席蒙塔古说，19世纪末，乒乓球以各种奇怪的名称盛行，器材与现在大不相同。欧洲的“室内网球”可在桌上、也可在地上打，球拍与现在的羽毛球拍相似，球是硬而轻的实心球，待到赛璐珞空心球出现后，它几乎传遍全世界。