A karakterszínész leghíresebb szerepe a Maffiózók című sorozatan volt, ahol Frank Cubitoso FBI-főnököt játszotta, emellett több New York-i bűnügyi sorozatban (Veszélyes küldetés, New York sűrűjében) megjelent.

A moziból leginkább Martin Scorsese Nagymenők című filmjéből lehet ismerős, amelyben Johnny Dio szerepét kapta, de Woody Allen több filmjében (Rejtélyes manhattani haláleset, Sztárral szemben) is feltűnt.

Az utóbbi években azonban egy másik pályáról volt ismert – a New York-i Rao's étterem társtulajdonosaként rengeteg hírességet látott vendégül. Az étterem egy hétig zárva tart, Pellegrino tiszteletére.

Az évezred legjobb sorozatai, 15. rész: Maffiózók

A minden egyes epizódban sztoriban és megvalósításban is moziminőséget hozó Maffiózókkal minden örökre megváltozott a sorozatok világában. Ezután már senki sem nézte le a kisebb képernyőt, és az álszent sztereotípiák helyett mindenki Tony Sopranóhoz hasonlóan összetett, nem épp hibátlan hősőkre vágyott. Ráadásul a széria a gengszterfilmek kliséit is iróniával kerülte ki.