作为世界上速度最快、最有激情的体育项目之一的乒乓球，它的真正起源和发源地从来没有得到过恰当的解释。
能够得到的资料十分少而且前后不一致，因此需要对球类运动以及相似运动的历史加以考察。从不同的资料综合来看，球类运动的真正发源地是亚洲、英格兰、北美（包括印第安地区）。同样有大量的资料表明，有发达文化的中国和古埃及同样对球类运动并不陌生。根据蒙塔古（英格兰人，国际乒联第一任主席）介绍，在中国的洞穴里曾发现了乒乓球的壁画。
1902年，新西兰第一次在一个图书馆里举行乒乓球比赛。
乒乓球的起源应当被追溯到19世纪末后四分之一的英格兰，随着充满了压缩气体的橡胶球的问世，乒乓球运动取得了较大的进步。那时候，人们一般在室外打草地网球，而天气一旦不好，他们就在室内打球，在一张球台上用网球拍来比赛，球网一般是由平板、一排书或者是小罐之类的东西充当。这种比赛被命名为“小型室内草地网球比赛”，这也使得早期的乒乓球比赛形式向现代的乒乓球运动前进了一大步。“小型网球”的不同种衍生形式，在英国以及它的殖民地美国普遍流行起来并且没有固定标准的装饰和特殊的比赛规则。
“乒乓球”第一次在正式的出版物上印刷出来，是1884年在firm.h. Ayres的目录中间。该目录提到了一个在一张台上用橡胶球和方形球拍的小型室内比赛，球拍用纸板或者是布进行了包装，目的是能够让球拍制造一点旋转。
乒乓球运动发展过程的一大步要归功于詹姆斯·吉布（1853-1930），他是一位英国的工程师和著名的跑步运动员。詹姆斯·吉布到美国旅行时，偶然发现了一种用赛璐珞制成的空心玩具球，弹跳力很强。他把这种球带回英国，并用它取代了软木的乒乓球。于是，他就将这种球稍加改进后，逐步在英国和世界各地推广起来。1899年至1904年，乒乓球迅速在整个英国流行开来，这也是乒乓球发展过程中的一个转折点。
詹姆斯·吉布给这项运动起了一个象声的名字“乒乓”，以此来形容球撞击球台或者是球板发出的响声。乒乓球在英国非常流行，无论是夏天还是冬天，无论是在公寓、俱乐部还是在交易会上或者宾馆里，都能见到人们在打乒乓球。乒乓球运动的活动地点甚至拓展到了咖啡屋里和饭店里，而且在特权阶级，那些贵族们甚至穿着晚装经常来打乒乓球。
第一个乒乓球比赛是在伦敦的皇家水族馆，现在的威斯特敏斯特中央宫殿举行的。在20世纪初英国出现了乒乓球的协会，各自的协会有不同的规则，区别主要在于记分方法和发球规则。在1907和1908年，美国的帕克兄弟购买了在美国使用“乒乓”这个名称的权利，命名了一百万个球。出售方同时不断地为这个运动发明新的名字因此，乒乓球英国又被称作“高西马”，而在美国又被称作“弗利姆—弗拉姆”。
最开始的乒乓球拍是用各种材料做成的，用羊皮纸和大拍柄做成的所谓的“铲子拍”。然后球拍上覆盖的材料变成了纸板，帆布，玻璃砂纸，木料，绳子或者软木。
英国人顾德，在参加一个伦敦乒乓球比赛的时候，到个药店去买一些药来治疗他的头疼，他发现药剂师用一种橡胶拍给顾客找钱，突然想到了他可以将橡胶粘到他的球拍上。这让他在打球的时候能够在接触球的一瞬间有更多的时间，这样也就对球有了更好的控制，并且在击球的时候有更大的威胁。这个发明使顾德在接下来的乒乓球比赛中多次获得了冠军。
早在19世纪末的英国，非官方的乒乓球规则已经得到了归纳。然而，这个规则并不能适用于所有的国家，因为当时还没有一个国际性的乒乓球组织。在那个时候，乒乓球采取每局30分而不是21分，而且，直到1901年，乒乓球运动员才把球直接发过球网。
英国旅行者和运动员把这项运动推广到了其它的地方。1901年，维也纳举行了第一届世界乒乓球比赛，英国运动员爱德华获得了冠军。此后又举行了一些乒乓球比赛。在停滞了一段时间以后，乒乓球运动又获得了活力和生机。在英国成立的英国乒乓球协会，是世界上第一个这项运动的协会组织