탁구가 언제, 어디서, 어떻게 처음 시작되었는지는 분명치 않고 여러 가지 설로 분류되고 있다. 중세어 이탈리아의 루식 필라리스(Rusic Pilaris)라는 놀이 형태가 변한 것이라고도 하고, 15~16세기경 프랑스 궁전의 라파움(Lapaum)이라는 궁전 놀이가 변하여 탁구가 되었다고도 한다. 그리고 1880년대에 남아프리카, 인도 등 영국 식민지 지역에 살던 영국인들이 테니스에서 힌트를 얻어 실내에서 할 수 있는 놀이로서 방바닥에 네트를 치고 비 올 때와 무더운 때를 피하여 행하던 놀이의 형태였다는 설이 있지만, 1889년에 아프리카의 뉴잉글랜드에서 시작되었다는 주장도 있다. 뿐만 아니라 헝가리의 학자 캐런이 저술한 책에는 2천년 전 일본의 공가(公家 : 현재 공무원 신분)에서 깃털 놀이를 한 것이 탁구의 시초라고 기록되어 있으며, 우리나라의 어떤 학자는 약 2천년 전 동양 각 국에서 신라의 화랑들이 즐기던 축국(蹴鞠)이 그 원형이라는 견해를 비친 일도 있었다.

국제 탁구 연맹이 매 2년마다 발간하는 편람(I.T.T.F Hand Book)에도 탁구는 고대, 중세에 테니스, 배드민턴과 구분 없이 시작되어 내려오다가 각기 독자적인 형태로 발전했다고 기록하고 있다. 초기에는 명칭도 일정하지 않아서 고시마(Gossima), 플림 플람(Flim FLAM), 위프 와프(Wiff Whaff)등 여러 가지로 불렸다. 이 때는 공이 지금의 셀룰로이드 공이 아닌 나무에 실을 감거나 코르크나 샌드페이퍼 또는 마분지로 쳤기 때문에 그 소리를 따서 그렇게 불렸다고 한다.

서구의 귀족들이 사교적으로 즐기던 당시의 사진과 그림을 보면, 남자는 연미복을, 여자는 이브닝 드레스를 착용하는 등 복장도 특이했다. 오늘날 셀룰로이드 공은 당시 영국의 크로스 컨트리 주자였던 제임스 깁(James Gibb)이 미국에 있을 때 어린이 장난감을 보고 고안했으며, 공을 판자에 송아지 가죽을 펴서 붙인 라켓(Villum Racket)으로 칠 때 소리를 따서 핑퐁(Ping Pong)이라고도 했는데 지금도 탁구의 애칭으로 불리고 있다. 이것이 근대 탁구의 출발점인 셈이다. 이후 탁구는 급속도로 보급되기 시작했고, 1902년 러버가 발명되고 영국에서 처음으로 탁구협회가 설립되어 테이블 테니스라고 공식적으로 불리게 되었다.