Harmonie znamená, že několik tónů hrajete společně a vytváříte tak "akordy". Slovo pochází z řeckého harmonia, což znamená "spojovat věci". Melodie sama o sobě může znít pěkně, ale lze ji "harmonizovat" přidáním doprovodu akordů. Studiu, jak to udělat, se říká harmonizace. Studenti hudby se učí, které akordy znějí pěkně po sobě. Těmto akordům se říká "akordové postupy". Mnoho hudebních teoretiků napsalo knihy o harmonii.
Hudba, která je tvořena melodií s harmonií pod ní, se nazývá "homofonní". Svým způsobem je opakem polyfonní, což znamená, že každá část (každý hlas) je melodií sama o sobě. I polyfonie však musí vytvářet příjemnou harmonii. Harmonie, jak ji známe v evropské hudbě, se plně rozvinula v období baroka (17. století).
Akord se třemi tóny lze zahrát pomocí 1., 3. a 5. tónu stupnice té které tóniny. Vznikne tak akord, který zní jako "domácí akord". To znamená, že pro harmonii jsou potřeba alespoň tři tóny. Ve většině homofonní hudby jsou čtyři: například sbor se obvykle dělí na soprán, alt, tenor a bas nebo smyčcové kvarteto na housle 1, housle 2, violu a violoncello.
Harmonie, která používá pouze tóny dané tóniny (např. pouze bílé tóny pro C dur), se nazývá "tónová harmonie".
Harmonie, která přidává mnoho dalších tónů, se nazývá "chromatická harmonie".
Pokud hudba není vůbec v žádné tónině, jako například v některých skladbách Arnolda Schoenberga, je "atonální". Harmonie může být atonální.