Anderson, 1902'de Philadelphia, Pensilvanya'da doğdu. Küçük yaşta kilisede şarkı söylemeye başladı ve büyük bir yetenek gösterdi. Philadelphia Müzik Akademisi'nde ve daha sonra New York City'deki Juilliard School'da müzik eğitimi aldı. 1925'te New York'ta profesyonel olarak ilk kez sahneye çıktı.
Anderson'ın kariyeri başından beri başarılıydı. Amerika Birleşik Devletleri ve Avrupa'yı gezerek dünyanın en prestijli konser salonlarından bazılarında performans sergiledi. Ayrıca birçok albüm kaydetti ve birçok filmde rol aldı.
Başarısına rağmen Anderson, kariyeri boyunca önemli ırk ayrımcılığıyla karşılaştı. Irkından dolayı belirli mekanlarda performans sergileme fırsatı sıklıkla reddediliyordu. 1939'da Washington DC'deki Anayasa Salonu'nda sahne alması planlandı, ancak salonun sahibi olan Amerikan Devrimi'nin Kızları (DAR), ırkı nedeniyle sahne almasına izin vermedi. Bu karar ulusal bir tepkiye yol açtı ve Anderson sonunda Lincoln Anıtı'nın merdivenlerinde bir konser verdi.
Anderson'ın Lincoln Anıtı'ndaki konseri sivil haklar hareketinde önemli bir dönüm noktasıydı. Irk ayrımcılığı sorununa ulusal düzeyde dikkat çekilmesine yardımcı oldu ve insanlara eşit haklar için mücadele etme konusunda ilham verdi. Anderson hayatı boyunca performans sergilemeye devam etti ve Afrikalı Amerikalılar için umut ve cesaretin simgesi haline geldi.
Anderson, çalışmaları nedeniyle Amerika Birleşik Devletleri'ndeki en yüksek sivil onur olan Başkanlık Özgürlük Madalyası da dahil olmak üzere çok sayıda ödül ve ödüle layık görüldü. 1993 yılında Portland, Oregon'da öldü.