L’église a été construite entre 1860 et 1871, dans le quartier de la Petite Pologne, actuellement place Saint-Augustin dans le 8 arrondissement de Paris. Au moment du Second Empire ce quartier change avec un afflux démographique entrainant une construction d’immeubles. Le préfet Haussmann va faire tracer de larges avenues rectilignes. Les carrefours appellent des édifices prestigieux.
Construite par Victor Baltard (architecte des Halles de Paris), cette église trouve son originalité dans sa structure plus que dans son style éclectique inspiré des arts roman et byzantin. En effet, elle est le premier édifice d’une telle ampleur à ossature métallique. Elle mesure près de 100 mètres de long et la hauteur de sa coupole s'élève à 80 mètres. Grâce à la structure métallique, les contreforts habituels n'existent pas.
Ornant la façade, les symboles des quatre Évangélistes au-dessus des arcades et, sous la rosace, les douze apôtres.
À l'intérieur, on remarque que les colonnes en fonte qui soutiennent la voûte et la coupole sont également des éléments décoratifs avec leurs anges polychromes. Les vitraux de la nef alignent évêques et martyrs des premiers siècles.
Le terrain n'étant pas rectangulaire, le plan est original : façade étroite, choeur très vaste. A mesure que l'on s'approche de celui-ci, les chapelles adjacentes deviennent de plus en plus imposantes.
La volonté de construire cet édifice bien en vue a cependant un inconvénient. Située au carrefour du boulevard Haussmann et du boulevard Malesherbes, tous deux très circulés, et qui plus est dans un secteur pavé, cette église est sans doute l'une des plus bruyantes de Paris, le bruit de la circulation restant très présent à l'intérieur de la nef, ce qui est peu propice au recueillement.
C'est dans cette église que se convertit Charles de Foucauld, qui fut influencé par le vicaire de cette paroisse, l'abbé Huvelin.