Johann Otto von Spreckelsen et Erik Reitzel conçoivent l'Arche de la Défense comme une version du XX siècle de l'arc de triomphe de l'Étoile : un monument consacré à l'humanité et aux idéaux humanitaires plutôt qu'aux victoires militaires.
L'Arche est un cube évidé en son centre de 112 m de long, 106,9 m de large, pour une hauteur de 110,9 m. C'est une projection en trois dimensions d'un hypercube dont le vide intérieur permettrait d'abriter Notre Dame de Paris.
Johann Otto von Spreckelsen et Erik Reitzel utilisent des matériaux de grandes qualités pour l'œuvre : béton précontraint à base de fumée de silice, alliant solidité et flexibilité (une densité de 350 kg au m³ contre 120 kg au m³ pour un pont normal), 2,5 ha de verre anti-reflets, 3,5 ha du même type de marbre que celui utilisé par Michel-Ange pour ses oeuvres : le marbre de Carrare. Chaque plaque coûta le prix d'une petite voiture.
Sur ses faces extérieures, l'Arche est recouverte de plaques de verre de 5 cm d'épaisseur, traitées spécialement pour empêcher toute déformation optique et résister à des vents de forte puissance. Les autres parements sont recouverts de plaques de marbre blanc de Carrare et de granite gris. Elle est montée sur 12 piliers qui s'enfoncent à 30 mètres dans le sol et qui sont posés sur des vérins hydrauliques (Savoisienne) afin de permettre au sous-sol fragile de supporter sa masse de 300 000 tonnes.
Le monument possède une mégastructure conçue de telle sorte que les forces soient exercées dans toutes les directions: tel un dé, la Grande Arche pourrait reposer sur n'importe quelle face. Chaque face horizontale du cube est composée de quatre fois quatre traverses de béton de 75 mètres de long.
Le toit de la Grande Arche pèse 30 000 tonnes et contient un centre de congrès et d'exposition, un musée de l'informatique, un restaurant ainsi qu'un belvédère offrant une vue panoramique sur tout le quartier de la Défense, et l'ouest de Paris. Ces aménagements sont ouverts au public et accessibles par une batterie d'ascenseurs panoramiques presque entièrement vitrées et situées dans le creux de l'Arche.
La Grande Arche n'est pas exactement dans l'Axe historique de Paris, avec lequel elle fait un angle de 6,33°. La raison est double :
- d'un point de vue technique d'abord : Erik Reitzel a pu installer les fondations de la structure de l'Arche afin de respecter l'autoroute et les lignes ferroviaires existantes, ainsi que le projet de prolongement de la ligne 1 du métro de Paris,
- d'autre part d'un point de vue symbolique : Johann Otto von Spreckelsen a en effet souhaité décaler la Grande Arche de 6° 33 afin de mettre en valeur le volume du cube et recréer le décalage existant déjà entre la Cour Carrée du Louvre et la place de la Concorde.