Bu ifadenin, 19. yüzyılda Amerika Birleşik Devletleri'nde, şeriflerin kendi bölgelerinde kolluk kuvvetlerinden sorumlu yetkililer olarak seçildiği dönemde ortaya çıktığı düşünülüyor. Yeni bir şerif seçildiğinde, genellikle kendi yardımcılarını getiriyorlar ve kolluk kuvvetlerinin uygulanma biçiminde değişiklikler yapıyorlardı. Yeni şerifin kolluk kuvvetlerine farklı bir yaklaşımı olabileceği veya önceki şeriften farklı konulara öncelik verebileceği için bu, yerel toplumda önemli değişikliklere yol açabilir.
Zamanla, "kasabada yeni bir şerif" ifadesi, kendi bölgesinde değişiklik yapan veya önemli bir etkiye sahip olan, yetkili bir konumda bulunan herhangi bir yeni kişiyi ifade etmek için daha geniş bir şekilde kullanılmaya başlandı. Artık siyaset, iş dünyası ve spor gibi çeşitli bağlamlarda yaygın olarak kullanılmaktadır.