Allerdings war dieses komödiantische Album nicht Pescis erster Ausflug in die Musikwelt. In den 1960er Jahren war der „Kevin – Allein zu Hause“-Schauspieler eine prominente Persönlichkeit in der Musikszene von New Jersey.
Wie im Musical „Jersey Boys“ von Frankie Valli und den Four Seasons erwähnt, stellte Pesci die Band tatsächlich dem Songwriter Bob Gaudio vor, der später viele ihrer Top-Charts schrieb. Eine Zeit lang war Pesci auch Mitglied von Joey Dee and the Starliters – einer Band, deren Ruhm darin bestand, dass der legendäre Gitarrist Jimi Hendrix kurzzeitig Mitglied war. 1968 veröffentlichte der Schauspieler sein erstes Album, Little Joe Sure Can Sing, das Coverversionen der größten Popsongs der Zeit enthielt. Das Album hatte keinen kritischen Erfolg und Pesci konzentrierte seine Bemühungen auf seine Filmkarriere, bis er 1999 bekannt gab, dass er sich von der Schauspielerei zurückziehen und sich auf die Musik konzentrieren würde.
Der Goodfellas-Star veröffentlichte 2003 unter dem Namen „Joey Doggs“ ein Jazzalbum mit dem Titel „Falling in Love Again“. Sein neuestes Album, Pesci…Still Singing, erschien 2019, kurz nach dem Auftritt des Schauspielers im Netflix-Film The Irishman.