Piyanonun en eski öncüsü genellikle trapezoidal ses tablasına ve çalanın elleriyle tellere vurmak için kullanılan çekiçlere sahip telli bir çalgı olan dulcimer olarak kabul edilir.
1600'lerin sonlarında İtalyan enstrüman yapımcısı Bartolomeo Cristofori, tellere vurmak için kaldıraçlar, çekiçler ve sönümleyiciler kullanan bir mekanizma ekleyerek dulcimer'i geliştirdi. Bu mekanizma, çalma sırasında daha fazla kontrole ve ifade gücüne olanak sağlayarak, değişen dinamiklere ve tınıya sahip notalar üretilmesini mümkün kıldı. Cristofori, icadına "yumuşak ve gürültülü klavsen" anlamına gelen "gravicembalo col piyano e forte" adını verdi.
18. yüzyılda diğer enstrüman üreticileri Cristofori'nin tasarımını denemeye başladılar ve daha fazla iyileştirme ve modifikasyon yaptılar. 1711'de Cristofori, "kaçış" adı verilen bir mekanizma ekleyerek bir başka önemli gelişme daha yaptı; bu mekanizma, çekiçlerin tellere vurulduktan sonra hızlı bir şekilde orijinal konumlarına dönmesine olanak tanıyarak, oyuncunun notaları hızlı bir şekilde tekrarlamasını sağladı.
"Piyano" (yumuşak) ve "forte" (yüksek) kelimelerinin birleşimi olan "pianoforte" terimi, 1700'lü yıllarda bu yeni enstrümanları tanımlamak için daha yaygın olarak kullanılmaya başlandı. Sonunda "piyano" olarak kısaltıldı.
Alman enstrüman yapımcısı Gottfried Silbermann, 1700'lerde piyanonun gelişimine birçok önemli katkı yaptı. Hareket mekanizmasını geliştirdi, ses tablasını ve telleri iyileştirdi ve tahta kasa yerine ahşap çerçeve kullanımını tanıttı, bu da daha sağlam ve sağlam bir enstrüman ortaya çıkardı.
19. yüzyılın başlarında İngiliz piyano yapımcısı John Broadwood, daha duyarlı ve dayanıklı yeni bir tür hareket mekanizması sunarak piyanoda daha fazla iyileştirme yaptı. Ayrıca enstrümanın sesini ve ömrünü artırmak için teller, ses tahtaları ve çerçeveler için farklı malzemelerle deneyler yaptı.
Aynı sıralarda, Fransız piyano yapımcısı Sébastien Érard, notaların daha da hızlı tekrarlanmasına olanak tanıyan çift eşapman hareketini geliştirdi. Ayrıca daha yüksek yapısal güç sağlayan ve daha yüksek tel gerginliğine izin vererek daha yüksek ve daha güçlü bir ses sağlayan metal çerçevelerin kullanımını da tanıttı.
19. ve 20. yüzyıllar boyunca piyanoya, sesi sürdürmek ve azaltmak için pedalların dahil edilmesi, daha fazla oktav eklenmesi ve çeşitli hareket mekanizmalarının geliştirilmesi gibi çok sayıda başka yenilik ve iyileştirme yapıldı.
Bu nedenle, ilk piyano tekil bir buluş değildi; daha ziyade, daha önceki telli çalgıların, onlarca yıl boyunca çok sayıda çalgı üreticisinin katkılarıyla, aşamalı bir evrimi ve iyileştirilmesiydi.