Antiquité (4000 av JC à 500 ap JC) : L'ancêtre du xylophone existait déjà sous la Préhistoire. Il fut baptisé lithophone en raison des lames de pierres taillées qui le composent. L'instrument en question a été retrouvé au Vietnam.

Moyen-Age/baroque (VIème siècle-XVIIème siècle) :Peu avant le IXème siècle, le xylophone à quatre rangs faisait sa première apparition sur l’Ile de Java sous le nom de « gambang ». En Occident, il a fallu attendre le XVème siècle pour voir apparaître le xylophone. Ce dernier a progressivement été remplacé par le modèle à deux rangs inventé aux Etats-Unis. Modèle qui incarne le xylophone moderne.

Romantisme (XIXème siècle) à nos jours: Ce n’est qu’à partir de 1874 que le xylophone intègre concrètement l’orchestre symphonique grâce à la danse macabre de Saint-Saëns.