Dördüncü yüzyılda, Milano Piskoposu St. Ambrose, koronun bir mezmur veya ilahinin alternatif dizelerini söylediği antifonal şarkıyı tanıttı. Beşinci yüzyılda, Roma Papası Büyük Aziz Gregory, ayinleri standartlaştırdı ve sekiz müzik modundan oluşan bir sistem kurdu. Gregoryen ilahisi olarak bilinen bu sistem, yüzyıllar boyunca Katolik Kilisesi'nde müziğin temel biçimi haline geldi.
Orta Çağ boyunca kilise müziğinin çeşitli türleri, örneğin ayinle ilgili dramalar, çokseslilik ve org müziği gelişmeye başladı. İki veya daha fazla müzik dizesinin aynı anda söylendiği çokseslilik, 12. yüzyılda önem kazandı.
16. yüzyılda Martin Luther Protestan Reformunu başlattı. Bu, Lüteriyen koroları ve Anglikan ilahileri gibi farklı kilise müziği tarzlarının gelişmesine yol açtı. Bu türler bugün Hıristiyan ibadetinin önemli parçaları olmaya devam ediyor.
19. ve 20. yüzyıllarda, Gregoryen ilahileri ve Palestrina'nın eserleri gibi erken dönem kilise müziğinin incelenmesi ve icrasına olan ilginin yeniden arttığı görüldü. Aynı zamanda çeşitli tarzlarda bestelenmiş yeni kutsal müziklerin de ortaya çıkışı yaşandı.