Carrière au cinéma
Avec son air stupéfait et plaintif, Jean Lefebvre symbolise le Français moyen, souvent dépassé par les événements. Sa carrière au cinéma débute en 1947, avec des rôles de figuration. Il apparaît dans Les Diaboliques (1954) d'Henri-Georges Clouzot, dans La Meilleure Part (1955) d'Yves Allégret, dans Et Dieu créa la femme (1956) de Roger Vadim. En 1963, il accède à la reconnaissance grâce aux Tontons flingueurs de Georges Lautner, dont il devient un des acteurs fétiches. Sa mine faussement triste attire la sympathie du public. Il tourne  Relaxe-toi chérie  de Jean Boyer(1964). Lefebvre se spécialise dans la comédie populaire, sur les traces d'un autre " idiot " célèbre du cinéma français, Bourvil. Il partage l'affiche avec Louis De Funès et Michel Galabru dans la série des Gendarme, dont le premier opus date de 1964 (Le Gendarme de Saint-Tropez de Jean Girault). Il devient le second indispensable dans ces comédies plébiscitées par le public. En 1966, il tient le rôle principal dans Un idiot à Paris de Serge Korber. Il conforte sa popularité avec une autre série, celle de La Septième Compagnie (1973-1977) de Robert Lamoureux. Dans les années 1980, il travaille surtout pour Richard Balducci (Prends ta Rolls et va pointer, 1981 ; N'oublie pas ton père au vestiaire et Salut la puce, 1982).

Autres activités
Jean Lefebvre se produit beaucoup sur les planches, surtout à partir de la fin des années 1980. On le voit notamment dans Les Vignes du seigneur (1976), Le Grand standing (1988) et Les Jumeaux (1991).
Il tourne également pour la télévision.
Il enregistre un 45 tours, Les Démons de midi, et publie un livre, Qu'est-ce qu'elles me trouvent ?