Militant syndical et politique, Jean Lévy fut l'animateur principal, pendant des années, des combats et des succès revendicatifs de la CGT au Crédit du Nord, ce qui lui valut d'être sollicité pour d'importantes responsabilités au Secrétariat du Syndicat des employés de banque de la région parisienne, puis du Bureau de la fédération des employés à partir de 1954.