La basilique est en forme de croix grecque, ornée de quatre coupoles ; son dôme central, haut de 83 m, est surmonté d'un lanterneau formé d'une colonnade. Le style éclectique architectural de la basilique, s'inspirant de l'architecture romane, de l'architecture byzantine, et particulièrement de la cathédrale Saint-Front de Périgueux, a influencé plusieurs autres édifices religieux du XXe siècle (basilique Sainte-Thérèse de Lisieux par exemple).
La pierre blanche retenue pour la construction provient des carrières de Château-Landon. Elle a été retenue par l'architecte Paul Abadie pour ses qualités de dureté et d'auto-nettoiement au contact de l'eau.
À l'intérieur, le plafond de l'abside est décoré de la plus grande mosaïque de France, couvrant une surface de 473,78 m2. Conçue par Luc-Olivier Merson et exécutée de 1918 à 1922 par les ateliers Guilbert-Martin, elle représente le Sacré-Cœur de Jésus glorifié par l’église catholique et la France. À sa base on peut lire une phrase en latin signifiant : « Au Cœur très saint de Jésus, la France fervente, pénitente et reconnaissante. »
Une immense tour carrée servant de clocher renferme, entre autres, la plus grosse cloche de France. Baptisée la Savoyarde, elle a été fondue à Annecy en 1895 par les frères Paccard. Elle mesure 3 mètres de diamètre et pèse 18 835 kg. Quant à son support, il pèse 7 380 kg. Le marteau qui la frappe pèse quant à lui 1 200 kg. Elle fut offerte à la basilique par les quatre diocèses de la Savoie, et arriva sur la butte le 16 octobre 1895, ce qui fut un événement parisien.
La crypte qui a la même disposition que l'église, est une des curiosités de la basilique.
La première pierre est posée le 16 juin 1875. L'intérieur de la nef sera inauguré en 1891, le campanile (clocher) ne sera terminé qu'en 1912. Toutefois la basilique n'est achevée qu'en 1914 et consacrée en 1919, après la fin de la Première Guerre mondiale. Il faudra même attendre 1923 pour l'achèvement de la décoration intérieure. Et tout au long de ces années, de formidables et incessantes polémiques accompagneront les travaux.
Depuis plus d'un siècle, les fidèles y assurent jour et nuit le relais ininterrompu de l'adoration perpétuelle. Charles de Foucauld passe une nuit de prière avec Louis Massignon en avril 1909 dans la Basilique du Sacré-Coeur de Montmartre : les statuts de son Association du Sacré-Coeur furent tous déposés à Montmartre, et là les premiers Petits Frères de Jésus de René Voillaume reçurent leur habit.
Depuis 1995, la congrégation des bénédictines du Sacré-Cœur de Montmartre assure, à la demande du cardinal Lustiger, archevêque de Paris, l'animation spirituelle et matérielle de la basilique.
Les grandes orgues de la basilique du Sacré-Cœur ont été construites, par le célèbre facteur d'orgue Aristide Cavaillé-Coll en 1898 pour le château du baron de L'Espée, grand amateur d'orgue. Cet orgue était alors l'un des fleurons de Cavaillé-Coll, puisque doté des meilleures technologies de l'époque (4 claviers manuels (61 notes) et pédalier (32 marches), 70 jeux, traction mécanique des claviers et des jeux).
Après la mort du baron et la vente de sa demeure et après avoir passé plus de dix années dans les entrepôts Cavaillé-Coll-Mutin, l'orgue fut transféré à la basilique où il fut inauguré le 16 octobre 1919 par Charles-Marie Widor, Marcel Dupré et Abel Decaux. Le titulaire actuel est Gabriel Marghieri, également organiste du sanctuaire Saint Bonaventure à Lyon.