Les fondateurs de la cité internationale universitaire de Paris ayant souhaité un caractère international et laïque, la construction d'aucun lieu de culte ne pouvait voir le jour sur le domaine réservé aux pavillons universitaires. Cette église catholique fut donc bâtie non loin de la cité, sur un terrain privé, grâce à la volonté de l'abbé Robert Picard de La Vacquerie (1893-1969), futur évêque d'Orléans (1951-1963). Ce dernier était alors chargé de l'aumônerie du foyer des étudiants catholiques étrangers. Il fit appel à l'industriel Pierre Lebaudy qui accepta d'en financer la construction ; sa veuve honora son vœu après sa mort survenue en 1929.
Le plan fut dressé en 1931 par l'architecte Pierre Paquet (1875-1959), ancien architecte diocésain devenu architecte des monuments historiques, en collaboration avec son fils Jean-Pierre Paquet (1907-1975). Les travaux durèrent de 1933 à 1936, date de la consécration de l'édifice par l'archevêque de Paris, le Cardinal Verdier, et sa dédicace au Sacré-Cœur de Jésus.
Le mécène souhaitait élever un monument inspiré du style roman. C'est donc un style néoroman lié à une construction de type byzantin que l'on peut aujourd'hui admirer .
Bâtie en béton armé, élément de construction typique de l'époque, et en plaques de calcaire de Saint-Maximin, l'église du Sacré-Cœur est dessinée sur un plan en croix latine à vaisseau unique à voûte a plein cintre. La couverture est en plomb. À la croisée du transept, un dôme la surplombe.
Les commanditaires ont notamment su faire appel à de talentueux artistes pour l'orner d'un vaste ensemble décoratif dû au sculpteur Georges Saupique, au maître-verrier Jacques Gruber et au peintre Angel Zarraga.
