La construction de l'église médiévale a commencé en 1343, à l'époque où la ville peuplée d'Allemands s'appelait Dantzig, et s'est terminée en 1502. Après la Réforme, l'église Sainte-Marie a d'abord été utilisée à la fois par les catholiques et les protestants, mais par la suite a été réservée au seul culte luthérien. Jusqu'en 1945, Sainte-Marie était la plus grande église protestante du monde. À la suite de l'expulsion des Allemands, les catholiques polonais se sont emparés de l'édifice.
L'église a abrité pendant plusieurs siècles Le Jugement dernier, le célèbre triptyque du peintre brugeois Hans Memling. Il s'agissait à l'origine d'une commande d’Angelo Tani, le directeur de la filiale brugeoise de la banque Médicis, destinée à l’église conventuelle de Fiesole, mais en 1473 le tableau fut saisi par le navire corsaire Peter von Danzig sur un navire battant pavillon bourguignon et offert en cadeau par l'un des propriétaires du bateau, Reinhold Niederhoff, à la Basilique Notre-Dame. Il s'ensuivit de longues complications diplomatiques qui allèrent jusqu'à la menace par le pape de jeter l'interdit sur Gdansk. Plus tard le triptyque fut saisi par Napoléon et transféré à Paris au Musée du Louvre jusqu'en 1815. Après la Seconde Guerre mondiale, il fut accroché au Musée de l'Ermitage à Leningrad. Depuis 1956, il est au Musée National de Gdansk.
La Seconde Guerre mondiale a gravement endommagé l'église. Quarante pour cent des trésors artistiques ont péri. Le toit de l'église a été entièrement refait en béton armé avec une charpente en acier, technique qui a permis de réduire le poids du toit. La reconstruction de l'église s'est achevée en 1956.