Les canons étaient déjà populaires au XIVe siècle lorsque les compositeurs aimaient écrire de la musique à plusieurs voix dans laquelle chaque voix a une part de mélodie (c'est ce qu'on appelle la musique polyphonique.) Des compositeurs comme Guillaume de Machaut écrivaient de la musique canonique. Son Sanz cuer m'en vois est un canon à trois voix dont chaque partie a des paroles différentes.
Le plus grand écrivain de canons du XVIIIe siècle est probablement Jean-Sébastien Bach. Nombre de ses œuvres pour orgue sont dotées de canons. Il a écrit une célèbre série de Variations canoniques sur "Vom Himmel hoch da komm' ich her" qui ont plusieurs canons à différents intervalles et inversions. Il a probablement écrit ces variations pour montrer aux jeunes compositeurs comment écrire de bons canons. Bach a également écrit une œuvre intitulée l'Offrande musicale qui comporte ce qu'il appelle un "canon per augmentationem contrario motu" (canon en augmentation et mouvement contraire, c'est-à-dire en arrière) ainsi qu'un "canon per tonos". Ce dernier est un canon modulant, ce qui signifie que la mélodie change de tonalité. Il est difficile de bien composer pour que cela sonne bien car lorsque la première voix vient de changer de tonalité, l'autre continue à rattraper l'autre tonalité.
Bach était un grand maître dans l'écriture de canons et d'autres formes musicales très compliquées. Après 1750, les compositeurs se sont moins intéressés à l'écriture de musique qui était entièrement polyphonique, bien que de nombreux compositeurs s'intéressent encore au contrepoint. Haydn, Mozart et Beethoven ont tous écrit des canons et même des compositeurs romantiques comme Schumann et Brahms se sont intéressés à cette forme de musique. César Franck a écrit un canon pour le quatrième mouvement de sa Sonate pour violon et piano. Il est assez facile d'entendre ce canon, car le violon joue la mélodie une octave plus haut que le piano, et le piano tient une note longue une mesure sur deux pendant que le violon la rattrape.
Au XXe siècle, des compositeurs comme Schoenberg, qui écrivaient de la musique sérielle, étaient friands de canons. Les compositeurs modernes comme Pierre Boulez ont écrit des canons rythmiques : des canons dans lesquels, par exemple, le rythme d'une partie est la version rétrograde (à l'envers) d'une autre.
]