Pendant la période de persécution des Chrétiens par les Romains, la plupart des offices se passait en privé dans les foyers. Avec la victoire de l'empereur romain Constantin lors de la bataille du pont Milvius en 312 après J.-C., la chrétienté devint une religion légale et même la religion privilégiée de l'Empire romain. La foi, déjà largement répandue autour de la Méditerranée, s'exprima alors pleinement dans ses bâtiments. Son architecture était faite pour correspondre aux formes civiques et impériales, ainsi les basiliques, de vastes halles rectangulaires faites pour se réunir, devinrent le modèle général des églises en occident et en orient, avec une nef et des bas-côtés et parfois une tribune et un triforium. Les basiliques païennes se concentraient autour de la figure de l'empereur, les basiliques chrétiennes remplace l'empereur par leur Dieu, roi des cieux. À l'extrémité orientale était placé l'autel derrière lequel, dans l'abside, s'asseyaient l'évêque et ses ministres.
Une deuxième phase fut la reconfiguration de la basilique pour arriver à des églises-porches, des Vollwestwerk (selon la terminologie des chercheurs allemands qui prévaut). La légalisation de la foi rendit possible les pèlerinages vers la Terre sainte, et en particulier vers Jérusalem. Plus tard fut développé un rite de service pendant la Semaine sainte, suivant la dernière semaine de la vie du christ culminant avec le chemin de croix, parfois appelé Via Dolorosa depuis la place du procès jusqu'au Golgotha, le lieu des crucifixions. À l'endroit présumé du calvaire du Christ, l'église du Saint-Sépulcre fut construite. Dans sa partie orientale se trouve l'endroit présumé du tombeau du Christ, dans la partie occidentale se trouve le lieu de la crucifixion. La procession devait se terminer avec la montée des marches une à une par les pèlerins depuis la partie ouest de l'église jusqu'à la place de la crucifixion, puis se retiraient de l'autre côté. Deux escaliers étaient soutenus par deux tours jumelles, ceci devint alors nécessaire pour cette forme de rituel. Ce modèle fut largement imité, ainsi la présence de deux tours jumelles occidentales se retrouve dans énormément d'églises et de cathédrales en Europe, notamment dans l'abbaye de Westminster à Londres, même si l'intérêt des tours dans le rituel ne se justifie plus depuis longtemps.
Cette période a été témoin de la division de l'empire au IVe siècle et de son effondrement. Orient et Occident, Rome et Byzance (le nom de Constantinople, aujourd'hui Istanbul) allèrent alors chacun de leur côté. La séparation définitive fut le Grand Schisme de 1054, mais les divergences avaient commencé bien avant. Les églises orthodoxes furent souvent modelées, concernant leur plan, sur la croix grecque — une croix aux branches de même longueur. Leur intérieur étaient fortement marqués par l'iconostase, un écran sur lequel étaient suspendus des images sacrées et qui séparait l'autel du corps de l'église.
L'arrêt de la construction d'églises dans beaucoup de pays protestants fut un phénomène étranger au monde catholique romain. Au contraire, une nouvelle phase de conception d'églises émergea, appuyé par la culture classique. Autour d'eux, à Rome et ailleurs, gisaient les ruines de monuments classiques avec leurs colonnes, les entablements et les pignons. Les temples de la Rome païenne allaient servir de modèle à ces nouvelles églises. Celles-ci, au lieu d'avoir des nefs voûtées flanquées de bas-côtés, avaient un plan centralisé.
À mesure que l'intérêt pour l'Antiquité grandissait, les arts prospéraient. Les mécènes enrichis par le commerce finançaient aussi bien les projets laïcs que religieux. Le développement du théâtre et de l'opéra alimenta de même les sources d'inspiration pour l'Église. Si les fidèles étaient devenus des spectateurs passifs, comme c'était le cas, il y avait cependant pour eux quelque chose à regarder. L'acmé de la liturgie était traditionnellement l'élévation de l'hostie lors de la messe. Les dévotions hors de la liturgiques comme l'exposition des reliques devinrent plus importantes. Si l'église était une sorte de théâtre, alors le reste du bâtiment pouvait mettre en scène ces objets du culte. Alors que progressivement les éléments d'architecture se marièrent avec des formes de plus en plus excentrique lors du XVIIe siècle et XVIIIe siècle, ce qu'on appellera le Baroque, une nouvelle sorte d'église faite pour permettre des perspectives à distance avec une progression scénique à mesure que l'on progresse le long de l'axe horizontal. La Wallfahrtskirche à Innen en Allemagne est un bon exemple de ce type d'église. Dans l'Asamkirche à Munich, ce procédé atteint des extrêmes que l'on qualifie même de Rococo.