L'harmonie consiste à jouer plusieurs notes ensemble pour faire des "accords". Le mot vient du grec harmonia qui signifie "joindre les choses" . Une mélodie en soi peut sembler agréable, mais elle peut être "harmonisée" en ajoutant un accompagnement d'accords. L'étude de cette méthode est appelée "harmonisation". Les étudiants en musique apprennent quels accords sonnent bien les uns après les autres. Ces accords sont appelés "progressions d'accords". De nombreux théoriciens de la musique ont écrit des livres sur l'harmonie.
La musique qui est faite d'un air avec une harmonie en dessous est appelée "homophonie". D'une certaine manière, c'est le contraire de la polyphonie, ce qui signifie que chaque partie (chaque voix) est un air en soi. Cependant, même la polyphonie doit créer une harmonie agréable. L'harmonie telle que nous la connaissons dans la musique européenne s'est pleinement développée à l'époque baroque (17e siècle).
On peut jouer un accord à trois notes en utilisant les 1re, 3e et 5e notes de la gamme, quelle que soit la tonalité de la musique. On obtient ainsi un accord qui ressemble à l'"accord maison". Cela signifie qu'au moins trois notes sont nécessaires pour l'harmonie. Dans la plupart des musiques homophoniques, il y en a quatre : par exemple, un chœur se divise normalement en soprano, alto, ténor et basse, ou un quatuor à cordes se divise en violon 1, violon 2, alto et violoncelle.
L'harmonie qui utilise uniquement les notes de la tonalité (par exemple, uniquement les notes blanches pour le do majeur) est appelée "harmonie tonale".
L'harmonie qui ajoute beaucoup de piquants et de méplats supplémentaires est appelée "harmonie chromatique".
Si la musique n'est pas du tout dans une tonalité, comme dans certaines musiques d'Arnold Schoenberg, elle est "atonale". L'harmonie peut être atonale.