Karnatik müziğin en eski kanıtı, eski Tamil halkının müzik geleneklerinde bulunabilir. Antik Tamiller, Tamizh Isai adı verilen, yedi notalı ölçeğe (Saptha Swaras) dayanan ve yazh (telli bir çalgı) ve kudam (vurmalı çalgı) dahil olmak üzere çeşitli müzik aletlerini kullanan bir müzik sistemi geliştirdiler. Tamizh Isai dini törenler ve kültürel gösteriler için kullanıldı.
Karnatik müzik daha sonra Hindu dininin etkisi ve Güney Hindistan'ın yönetici hanedanlarının himayesi altında gelişti. 14. yüzyılda Vijayanagara İmparatorluğu Güney Hindistan'da güçlü bir krallık olarak ortaya çıktı ve Karnatik müziğin gelişmesinde önemli bir merkez haline geldi. Vijayanagara yöneticileri müzik ve dansın büyük koruyucularıydı ve müzik okulları ve kurumlarının büyümesini teşvik ettiler. Ayrıca kritis, swaras ve jathis gibi birçok yeni müzik eserinin bestelenmesini de sipariş ettiler.
17. ve 18. yüzyıllarda Karnatik müzik, Maratha İmparatorluğu ve Mysore Krallığı'nın yönetimi altında gelişti. Maratha hükümdarları müzik ve dansın büyük uzmanlarıydı ve kendi saraylarında Karnatik müziğin gelişmesini teşvik ettiler. Mysore hükümdarı Krishnaraja Wodeyar III, müzik ve dansın büyük bir koruyucusuydu ve birçok yeni müzik eserinin bestelenmesini yaptırdı.
19. yüzyılda İngilizlerin Hindistan'ı sömürgeleştirmesi nedeniyle Karnatik müzik Batı müziğiyle tanıştı. Bazı Carnatic müzisyenleri, piyano ve keman kullanımı gibi Batı unsurlarını müziklerine dahil etmeye başladı. Ancak Karnatik müzik geleneksel karakterini korudu ve yedi notalı skala ile raga ve talas kullanımına dayanmaya devam etti.
Bugün Carnatic müziği gelişen bir sanat formudur ve dünyanın her yerindeki müzisyenler tarafından icra edilmektedir. Dünyanın en sofistike ve karmaşık müzik sistemlerinden biri olarak kabul edilir ve güzelliği, duygusal derinliği ve manevi önemi nedeniyle hayranlık uyandırır.