Bolin, Iowa'nın Sioux City şehrinde doğdu. Altı yaşında gitar çalmaya başladı ve 17 yaşında yerel gruplarda profesyonel olarak çalıyordu. 1969'da Zephyr grubuna katıldı ve grup 1971'de dağılmadan önce iki albüm çıkardı. Bolin daha sonra Joe Walsh'un yerine James Gang'a katıldı. 1973'te ayrılmadan önce grupla üç albüm kaydetti.
1975'te Bolin, Ritchie Blackmore'un yerine Deep Purple'a katıldı. 1976'da ayrılmadan önce grupla Come Taste the Band adlı bir albüm kaydetti. Bolin, 4 Aralık 1976'da 25 yaşındayken Miami Beach, Florida'da aşırı dozda uyuşturucudan öldü.
Bolin, Jimi Hendrix, Eric Clapton ve Jeff Beck gibi çok çeşitli müzisyenlerden etkilenen çok yetenekli bir gitaristti. Akıcı çalma stili ve karmaşık melodiler ve sololar yaratma yeteneğiyle tanınıyordu. Aynı zamanda yetenekli bir söz yazarı ve vokalistti.
Bolin'in ölümü müzik dünyası için büyük bir kayıp oldu. Kendi kuşağının en büyük gitaristlerinden biri olma potansiyeline sahip, yetenekli bir müzisyendi.