Son premier 33 tours sort en 1961 et reçoit le prix de la SACEM. Il entame alors une longue carrière, émaillée de difficultés avec la censure. En effet, Jean Ferrat a toujours été un chanteur engagé. Il écrira ses textes ou mettra en musique ceux de ses amis poètes, Henri Gougaud, Georges Coulonges ou Guy Thomas. (Voir la section discographie pour la suite).

En 1962, il fait la connaissance d'Isabelle Aubret. Un véritable coup de foudre amical a lieu entre les deux artistes. Ferrat lui écrit "Deux enfants au soleil", un des titres majeurs de la chanteuse, et lui propose la première partie de la tournée qu'il démarre alors. Il compose une chanson sur des paroles écrites par Philippe Pauletto qu'il publie en 1970, et qui sera ensuite interprétée aussi par Isabelle Aubret : "Tout ce que j'aime".

Il a aussi composé une chanson sur des paroles de Michèle Senlis pour Jacques Boyer et Jean Louis Stain au début des années 60 et qui sera, dans les années 70, réécrite partiellement et interprétée par Daniel Guichard : "Mon vieux"

Cet artiste très populaire, bien que largement diffusé par les postes périphériques, est rarement passé sur les écrans de la télévision.

Il accuse le système commercial qui fait passer les considérations financières avant la chance donnée aux artistes créatifs. Publiant des lettres ouvertes aux différents acteurs de la vie culturelle, présidents de chaînes, ministres, il dénonce une programmation qui selon lui privilégie les chansons "commerciales" aux créatifs

Il est membre du comité de parrainage de la Coordination française pour la Décennie de la culture de paix et de non-violence.

En 2010, il soutient la liste du Front de Gauche, menée par le Parti Communiste Français, aux élections régionales françaises de 2010