Après l'afflux à Göppingen de nombreuses familles juives en provenance de Jebenhausen, celles-ci demandent en mai 1857, au rabbinat de Jebenhausen, la possibilité d'ouvrir un oratoire à Göppingen dépendant de la synagogue de Jebenhausen, mais leur demande est alors refusée. Elles renouvellent leur demande en mai 1861, assurant que tous les frais seront supportés par elles. Cette fois là leur demande est acceptée, mais l'aménagement d'e l'oratoire sera retardé, en raison de dissensions concernant l'achat d'un bâtiment pour le culte et pour l'école.
Après la création le 1er juillet 1867 d'une communauté juive indépendante à Göppingen, celle-ci décide le même mois, de transformer deux appartements, situés dans un immeuble se trouvant à l'emplacement actuel de l'immeuble du Schützenstraße 2, en une salle de prière pour la somme de 1 074 florins. Des Sefer Torah (rouleaux de Torah) et d'autres objets de culte, ainsi qu'un harmonium sont achetés ou reçus en don. Le même bâtiment abrite aussi l'appartement du chantre, la salle de réunion du conseil de la synagogue et une salle de classe. Le bâtiment a été démoli en 1897.
Au bout de quelques années, cette première salle de prière s'avère trop petite pour la communauté grandissante. Une première synagogue est alors installée dans une maison située Pfarrstraße 33, construite l'année précédente. La synagogue est inaugurée à l'automne 1872, le jour de Roch Hachana. Elle possède 55 places assises dans la zone réservée pour les hommes et 45 dans celle pour les femmes, située au rez-de-chaussée, à l'arrière. La galerie est destinée pour les jeunes gens, pour le chœur et pour l'harmonium. Après à peine dix ans, cette synagogue est déjà trop petite. En 1881 le bâtiment est vendu et sera pendant quelques années une salle de prière pour l'Église méthodiste. En 1885, le bâtiment est transformé en appartements et subsiste encore de nos jours.
Une nouvelle synagogue est construite en 1880-1881 sur une parcelle de la Freihofstraße, acquise à cet effet, depuis 1878. Le premier coup de pelle est donné le 1er mars 1880, et la première pierre est posée le 23 avril. La synagogue est construite suivant les plans de l'architecte Christian Friedrich de Leins, professeur à l'Université Technique de Stuttgart. La construction est supervisée par l'ingénieur Elsässer. La construction s'élève suivant un plan carré. Cette partie carrée, contenant la salle de culte, entourée sur trois côtés par des galeries, est prolongée du côté ouest par une avancée rectangulaire intégrant au rez-de-chaussée, le hall d'entrée, une salle de réunion avec vestiaire, et au premier étage, la tribune de l'orgue.
De l'extérieur, le bâtiment est divisé par des lésènes et des corniches, ainsi que par des fenêtres ouvragées à tracerie; Un pignon transversal suggère un aménagement de l'espace intérieur cruciforme. Au dessus de la croisée, une haute coupole s'élève sur un tambour octogonal. Après avoir traversé un petit jardin donnant sur la Freihofstraße, on pénètre dans l'avant-corps de la synagogue par un porche très haut à arc plein-cintre, surmonté d'un fronton triangulaire. La pièce située au premier étage reprend le même motif et possède une fenêtre circulaire à six lobes pour apporter de la lumière naturelle dans la pièce. Le sommet du pignon est couronné des Tables de la Loi.
Le coût total de construction de la synagogue s'élève à environ 60 000 marks. Au rez-de-chaussée, elle dispose de 136 places pour les hommes et de 40 places supplémentaires pour les jeunes. Dans les galeries à l'étage, 51 places sont réservées pour les hommes et 51 pour les femmes, ce qui fait un ensemble de 278 places assises. L'ensemble possède un style qui se rapproche plus de l'architecture Renaissance que de l'architecture romantique.
L'inauguration de la synagogue se déroule le 16 et 17 septembre 1881.
Le 16 septembre dans l'après-midi, un cortège se forme, partant de l'ancien lieu de prière dans la Pfarrstraße, jusqu'à la nouvelle synagogue. Ce cortège est formé par les enfants de l'école, la chorale, les porteurs des rouleaux de Torah, du rabbin Max Herz et des représentants de la communauté. Viennent ensuite, les invités d'honneur, le comité et le personnel responsables de la construction, les membres de la communauté, et toutes les personnes concernées de la population. L'entrée dans la synagogue se fait au son des psaumes chantés par le chœur, et les rouleaux de Torah sont déposés dans l'Arche sainte. Le rabbin Herz prononce alors un sermon. Parmi les officiels juifs présents, se trouvent le rabbin régional de Stuttgart et membre du consistoire, le Dr Moses von Wassermann, ainsi que le conseiller Adolf Levi. Le 17 septembre après-midi et le soir, se tient un grand banquet à l'auberge Dettelbacher, au cours duquel sont prononcés de nombreux discours de félicitation, ainsi qu'un exposé sur l'histoire des Juifs de Jebenhausen, de Göppingen et des environs.
Cette inauguration est amplement décrite dans les journaux locaux et les revues juives. Le Allgemeinen Zeitung des Judentums du 11 octobre 1881, fait remarquer que quatre synagogues sont inaugurées à la même période, celle de Saint-Gall en Suisse, celle de Göppingen dans le Wurttemberg et celles d'Altona (faubourg de Hambourg) et de Schwetz (Świecie) à l'époque en Prusse, maintenant en Pologne.
Le Göppinger Wochenblatt du 17 septembre 1881 écrit:
« Sur la Nouvelle Rue, la partie la plus belle de la ville, et situé à mi-chemin entre les deux églises des confessions chrétiennes, s'élève depuis quelque temps un bâtiment, dont le style et la coupole s'élevant vers le ciel et visible de loin, permettent de désigner comme une "Maison de Dieu". C'est la nouvelle synagogue de la communauté israélite…
Au-dessus de l'entrée principale et à d'autres endroits appropriés sont inscrites des inscriptions en hébreu. La salle de la synagogue située au rez-de-chaussée, avec les rangées de sièges, les galeries, l'orgue, ressemble un peu à une église chrétienne, tandis que l'autel, le Saint des Saints, les sièges du rabbin, du chantre et des dirigeants de la communauté, les chandeliers etc., tous situés sur le coté est, suggèrent le rite mosaïque. La peinture s'accorde parfaitement à l'aménagement intérieur qui forme ainsi un ensemble harmonieux. »
En 1925, la synagogue est entièrement rénovée et modernisée. L'éclairage au gaz existant est remplacé par un éclairage électrique. Des bancs supplémentaires pour les enfants des écoles de la communauté sont rajoutés. La synagogue possède à l'époque onze rouleaux de Torah, dont l'un déposé dans un oratoire à Kirchheim unter Teck, village rattaché à la communauté de Göppingen, neuf Parokhet (rideaux pour l'Arche sainte), 24 parures de Torah, deux chandeliers de Hanoukka, plusieurs paires de Rimonim (ornements de Torah), des verres de kiddouch et plus encore.