Costello, Paterson, New Jersey'de İtalyan göçmenlerin çocuğu olarak dünyaya geldi. Kariyerine şov dünyasındaki kariyerine gençliğinde vodvil ve burlesk performanslarıyla başladı. 1936'da Bud Abbott'la tanıştı ve ikisi bir komedi ekibi kurdu. Gece kulüplerinde, radyoda ve filmlerde performans sergileyerek kısa sürede dünyanın en popüler komedi gösterilerinden biri haline geldiler.
Abbott ve Costello'nun komedisi, şakacı rutinleri ve Costello'nun tiz sesi ve abartılı yüz ifadeleriyle karakterize edildi. "Tropiklerde Bir Gece" (1940), "Buck Privates" (1941) ve "Abbott ve Costello Meet Frankenstein" (1948) dahil olmak üzere toplam 36 filmde birlikte rol aldılar.
Costello'nun sağlığı 1950'lerin başında bozulmaya başladı ve birkaç kalp ameliyatı geçirdi. 1959'da 52 yaşındayken kalp krizinden öldü.
Erken ölümüne rağmen Costello, 20. yüzyılın en etkili komedyenlerinden biri olarak kabul ediliyor. Bud Abbott'la yaptığı çalışmalar komedi türünün tanımlanmasına yardımcı oldu ve sayısız başka komedyene ilham verdi.