Le CFJ a été fondé au lendemain de la Libération, le 11 juillet 1946, par des résistants français, notamment Philippe Viannay et Jacques Richet.
Le Centre s'est diversifié avec la création du Centre de perfectionnement des journalistes (CPJ), qui propose des formations professionnelles destinées aux journalistes. Le CFJ et le CPJ font partie du groupe CFPJ (Centre de formation et de perfectionnement des journalistes), créé en 1972.
Suite à une crise financière, en 1998, l’école doit procéder à une restructuration. À l'initiative de Claire Richet, Bernard Pivot et Pierre Lescure, des anciens élèves créent alors l’association « CFJ-Demain » pour trouver des solutions de financement qui permettront à l’école d'échapper à la liquidation. La justice lui accorde la reprise du CFPJ en 1999. En dépit de l'augmentation des droits d'inscription, la situation reste précaire : en 2002, le groupe CFPJ est à nouveau en dépôt de bilan.
Avec le Centre d'information sur les médias (CIM), le groupe CFPJ a été repris en juillet 2003 par le groupe Édition formation entreprise (EFE), spécialisé dans la formation fiscale et la communication.
En 2008, le CFJ a lié des partenariats avec deux autres grandes écoles, l'École normale supérieure de la rue d'Ulm et l'École supérieure de commerce de Paris — Europe (ESCP Europe).