Il fréquenta dans les années 1950 le Club Saint-Germain où il rencontra Gene Kelly. L’acteur américain lui apprit quelques pas de claquettes et lui donna un petit rôle dans La Route joyeuse (1957). Après quelques figurations, il se fit connaître grâce au film Les Jeux de l’amour de Philippe de Broca.

Cet amateur de music-hall, passionné de comédie musicale, avait aussi tourné avec les plus grands cinéastes, qui lui confiaient souvent des rôles de séducteur, de Renoir (Le Caporal épinglé) à Buñuel, en passant par Chabrol, Clair, Losey, Melville ou encore Altman.

Mêlant séduction et ironie, Jean-Pierre Cassel a laissé son empreinte sur des films des années 1960 et 1970, tels que L’Armée des ombres de Melville ou Le Charme discret de la bourgeoisie de Buñuel, mais il a également été apprécié de la nouvelle génération de réalisateurs français (Roschdy Zem, Mathieu Kassovitz, Gilles Lellouche...).

Dans les années 1980 et 1990, il s’était fait moins présent au cinéma, préférant le petit écran et les planches. Chanteur et danseur, Jean-Pierre Cassel se lança également dans la comédie musicale et donna plusieurs spectacles en hommage à Fred Astaire ou Serge Gainsbourg.

Il était le père des comédiens Vincent et Cécile Cassel.