Existem várias versões que tentam decifrar de onde veio o jogo, mas nenhuma delas até hoje pôde ser confirmada. Acredita-se, porém, que ele tenha surgido na China, inventado por um soldado chamado Hung Ming, que teria vivido de 243 a 181 a.C. Os primeiros indícios da presença do dominó na Europa são de meados do século XVIII, quando era jogado nas cortes de Veneza e Nápoles. As peças eram feitas de ébano, com pontos de marfim, representando os números. O antigo dominó chinês traz todas as 21 combinações que podem ser obtidas ao lançar dois dados, sugerindo que um jogo possa ter nascido do outro. Já na Europa, há sete peças a mais, combinando esses números também com o zero. Alguns estudiosos sustentam até que, por ser extremamente simples, o jogo pode ter aparecido simultaneamente em várias partes do mundo - como o jogo-da-velha.
O nome dominó provavelmente deriva da expressão latina domino gratias, que significa "graças a Deus", dita pelos padres europeus enquanto jogavam. Atualmente, o dominó é jogado em quase todos os países do mundo, mas é mais popular na América Latina. Na China, ele deu também origem a outro jogo, mais complexo: o mah jong.
