C’est au théâtre que Joe Mantegna débute sa carrière de comédien. En 1969, il apparaît dans l’adaptation de la comédie musicale Hair. Cet acteur issu d’une famille italo-américaine poursuit sa route en investissant Broadway dans Working, une autre comédie musicale. La télé lui ouvre les bras en 1980, dans la série Soap où il campe Juan One.Au cinéma, il a à son actif quelques rôles marquants comme Engrenages (1988) dans lequel il campe Mike. Dans ce film, il retrouve le réalisateur et ami David Mamet qu’il avait rencontré quelques années auparavant dans Working.Parmi ses incarnations cultes, on note aussi celle de Joey Zasa, dans le 3ème volet du Parrain (1990) de Francis Ford Coppola. En 1998, il s’essaie à la réalisation avec le film Jerry and Tom. Parmi sa conséquente filmographie, on trouve Celebrity (1999), Liberty Heights (2000), Le monde de Joan (2003) ou encore Nine lives (2005).Depuis 2007, il incarne Lou Manahan dans la série The Starter Wife. En parallèle, il s’illustre également dans Esprits criminels, à partir de la saison 3. A noter qu’il prête sa voix au personnage de Fat Tony, le parrain de la mafia dans la série animée Les Simpson. Si sa participation dans le rôle de l'agent Rossi pour Esprits Criminels lui prend beaucoup de temps, Joe Mantegna fait quelques apparitions sur grand écran comme dans Valentine's Day ou double même l'un des personnages secondaires de Cars 2 (2001).