La paroisse Saint-Pierre de Chaillot remonte au XI siècle. L’église actuelle fut construite dans les années 1930, en deux fois, et achevée en 1938. Elle est l'œuvre de l'architecte Émile Bois, alors architecte en chef de la ville de Paris. L'ancienne église, située au même endroit mais de moindre superficie, fut détruite, en deux fois, lors de la construction de la nouvelle église. Le financement de la construction a été entièrement assuré par une donation des fidèles.
L'ancienne église ouvrait sur la rue de Chaillot, seule une chapelle avec une façade en brique ouvrait sur l'avenue Marceau. Il ne reste rien de cette ancienne église, sauf une statue de la Vierge, la Vierge de Chaillot.
Initialement, la nouvelle église devait être isolée, mais les immeubles alentours n'ont jamais été détruits.
L'église fut inaugurée le 18 mai 1938 par le cardinal Verdier archevêque de Paris, le cardinal Baudrillard et le nonce apostolique.
La nonciature de Paris est située avenue du Président-Wilson, au bas de l’avenue Marceau. L’église Saint-Pierre de Chaillot est donc la paroisse du nonce apostolique. Ainsi entre 1945 et 1953, monseigneur Roncalli, futur Jean XXIII, fréquentera beaucoup l'église.
En 1974, l'orgue de chœur fut rénové par le facteur d'orgue Alfred Kern.
En 1990, la ville de Paris a lancé un concours international pour la construction de grandes orgues qui furent construites et installées en 1994 par le facteur d'orgue Daniel Birouste. Depuis 2001, un festival, le Festival Chaillot Grandes Orgues, se déroule dans l'église chaque année.
