Si les ingénieurs ont beaucoup contribué au développement des bétons, l'idée d'y intégrer des armatures en aciers revient à un garde champêtre et à un jardinier. De même, la mise au point du ciment moderne revient à Louis Vicat, mais Égyptiens et Romains utilisaient déjà des liants pour la construction. Ainsi vont les découvertes, faites de science, de savoir-faire et de hasard.
Le mélange de chaux, d'argile, de sable et d'eau est très ancien. Les Égyptiens l'utilisaient déjà aux alentours de -2600 : un des mortiers les plus anciens est celui de la pyramide d'Abou Rawash, qui fut probablement érigée sous la IV dynastie. Vers le I siècle, les Romains empruntèrent la technique importée par les Grecs de Neapolis dès le V siècle av. J.-C. pour améliorer ce « liant » en y ajoutant le sable volcanique de Pouzzoles, ce qui lui permettait de prendre sous l'eau, ou en y ajoutant de la tuile broyée (tuileau), ce qui améliorait la prise et le durcissement. La systématisation de la construction en béton (opus caementicium) permit les réalisations remarquables de l'architecture de l'Empire romain.
Dans la seconde moitié du XVIII siècle, l'Anglais John Smeaton entrevoit le rôle que joue l'argile dans l'hydraulicité de certains calcaires. En 1779, Bry Higgins publie ses recherches sur l'importance de la granulométrie des sables destinés à la confection des mortiers, et Jean-Antoine Chaptal établit que les pouzzolanes françaises peuvent sans dommage être substituées aux pouzzolanes italiennes. En 1791, le pasteur anglican James Parker découvre les propriétés des roches naturelles de l'île de Sheppey, et selon A. Maché, cette découverte est le véritable point de départ de l'industrie des ciments naturels.
Pourtant, la découverte du ciment est attribuée en France à Louis Vicat, jeune ingénieur de l'école nationale des ponts et chaussées. En 1818, il fut le premier au monde à fabriquer, de manière artificielle et contrôlée, des chaux hydrauliques dont il détermina les composants ainsi que leur proportion. Préférant la gloire d'être utile à la fortune, il publia le résultat de ses recherches sans déposer de brevet. C'est l'industriel Joseph Aspdin qui dépose en octobre 1824 le premier brevet et crée la marque ciment de Portland.
Les premières usines françaises de Ciment Portland artificiel datent de 1850, celles de ciment de grappier de 1870. La fabrication de ciment de laitier date de 1890.
Pendant l'année 1908, Jules Bied, directeur du laboratoire de la société Pavin de Lafarge, découvre le Ciment Fondu©, fabriqué à partir de calcaire et de bauxite, alors qu'il était à la recherche d'un liant hydraulique qui ne soit attaqué ni par l'eau de mer ni par les eaux sulfatées.
Le béton de ciment est apparu en architecture grâce aux bétons moulés et aux pierres factices, imitation des pierres de taille coulées en béton ; souvent du béton de ciment prompt naturel.
La pratique du moulage débuta au début du XIX siècle dans les régions où l'on connaissait déjà le banchage du pisé et grâce à la rapidité de prise du ciment prompt naturel (dit aussi ciment romain). François Cointeraux faisait déjà des moulages à Lyon et Grenoble à la fin du XVIII siècle. François Lebrun en fit dans la région de Montauban vers 1830. Il bâtit notamment le petit pont de Grésol en 1835. François Coignet fut un des plus importants promoteur du béton moulé. Industriel lyonnais, il bâtit son usine de Saint-Denis (Paris) en 1855 en béton-pisé qu'il breveta et ne cessa plus d'en faire la promotion ; sans réellement y parvenir du fait qu'il s'opposait aux grands bâtisseurs parisiens.
La pierre factice eut un succès dans le nord de la France dans les années 1830 grâces aux ciments prompts de Vassy (Yonne) et de Pouilly-en-Auxois et surtout un véritable succès dans les Alpes, région de Grenoble, et le sud de la France grâce aux ciments prompts naturels de Grenoble à partir des années 1840 (Ciment de la Porte de France par Dumolard et Viallet, Ciment d'Uriol par Berthelot et Ciment de la Pérelle par la société Vicat ; aujourd'hui, seuls La Porte de France et la Pérelle, propriétés de Vicat, produisent du ciment prompt naturel en Europe) . On moulait tout, canalisation d'égouts, vases, statues, ballustrades, pierres d'angles, de claveaux, corniches, modillons, etc. Cette pratique s'est répandue ensuite dans de nombreuses grandes villes d'Europe : Madrid, Vienne, Budapest, Bratislava, Cracovie ainsi qu'en Afrique du Nord, Alger et Tunis. Les villes du nord de l'Italie on aussi utilisé le ciment moulé, grâce au prompt importé de Grenoble puis avec leurs ciments. Milan, Turin et Gênes sont très connues pour cela (Galeria Vittorio-Emmanuelle II de Milan). Mais il s'agit-là de technique héritée des stuccatori, ciment moulé en décoration sur la structure souvent de brique, non de pierres factices faisant partie intégrante de la structure comme en France.
L'église Sainte Marguerite au Vésinet réalisée en 1864 par l'architecte L.A. Boileau suivant le procédé Coignet de construction de béton aggloméré imitant la pierre, passe pour être le premier bâtiment non industriel réalisé en béton en France. Il y en a eu de bien antérieurs, notamment la maison de Coignet à Saint-Denis. Mais cette église fut très critiquée lors de sa réalisation en raison de sa morphologie mais aussi du procédé Coignet qui a provoqué très rapidement des marbrures noires sur les murs (en raison de présence de mâchefer dans le béton). Boileau lui-même n'appréciait pas le béton et fit beaucoup pour dévaloriser le matériau. En Isère, dans les alentours de Grenoble, on bâtissait de nombreuses maisons et surtout des églises avec des éléments architectoniques de ciment moulé comme l'église de Cessieu qui date de 1850, celle de Champier de 1853 ou encore l'église Saint-Bruno de Voiron (1857-1871). Saint-Bruno de Grenoble (1869-1875) est entièrement en pierres factices de ciment prompt moulé.
L'armature de métal dans les mortiers provient des techniques de moulage en sculpture et fut utilisé d'abord par des jardiniers expérimentateurs. Joseph-Louis Lambot à Miraval fabriqua en 1845 des caisses pour orangers et réservoirs avec du fil de fer et du mortier, en 1849 une barque, pour son lac, et enfin en 1855 il posa un brevet : le "ferciment", une combinaison de fer et de mortier pour les constructions navales et les caisses à fleur. Il construisit un canot en 1855 qui passa inaperçu à l'Exposition universelle de Paris. Joseph Monier déposa en 1867, à Paris, une demande pour « un système de caisses-bassins mobiles en fer et ciment applicables à l'horticulture ». Les années suivantes, il déposa des additifs et constitua systématiquement des procédés d'architecture.
Le mortier armé était un procédé trop coûteux et trop fragile pour être utilisé en architecture.
L’église Saint-Jean de Montmartre en 1894-1904 (briques enfilée sur barres métalliques et remplies de mortier) et la toiture en voûte du théâtre de Tulle d'Anatole de Baudot en sont de rares exemples. L'architecte utilise le procédé économique de construction en mortier armé breveté par l'ingénieur Paul Cottancin. Ce système consiste en une sorte de toile métallique dont la trame et la chaîne sont formées par le même fil de fer ; les parois sont constituées de briques empilées.
Villa-témoin de F.Hennebique
En Angleterre, des entrepreneurs comme Alexander Payne et plus sérieusement Thaddeus Hyatt, tentèrent dans les années 1870 d'apprivoiser les armatures dans les bétons mais furent désavoués par des contradicteurs et quelques infortunes.
Aux États-Unis les armatures métalliques du béton furent dévoilées par William E. Ward et exploitées par Ernest Leslie Ransome, avec ses fer Ransome dans les années 1880.
Il fallut attendre la maîtrise du béton armé, les réflexions techniques d'ingénieurs pour voir apparaître un véritable intérêt cimentier. François Hennebique abandonna ainsi son métier d'entrepreneur en 1892 et devint ingénieur consultant. Il eut un succès considérable, créa une société de franchises en construction et bâtit des dizaines de milliers d'édifices.
Il publia le magazine Béton armé à partir de 1898 pour faire connaître ses travaux qui permirent à la charpenterie monolithe d'éliminer le ciment armé trop mince ; dont son immeuble de la rue Danton à Paris en 1898 et sa villa-témoin à Bourg-la-Reine entre 1894 et 1904, à la fois maison, bureau d'étude, salon de réception dont l'architecture elle-même est une prouesse technique. Edmond Coignet et Napoléon de Tedesco ont communiqué, les premiers en 1894, un mode de calcul rationnel des ouvrages en béton aggloméré et en ciment armé.
La circulaire du 20 octobre 1906 pose les premiers fondements techniques du béton armé, admis à figurer parmi les matériaux de construction classiques. De son côté, Charles Rabut, faisant ses premiers travaux théoriques sur le béton armé à l'École des Ponts et Chaussées, l'avait intégré à son programme dès 1897, alors qu'il n'existait encore aucun manuel traitant du sujet. Il fait ainsi découvrir cette technique à de jeunes ingénieurs, dont Eugène Freyssinet, le père du béton précontraint. Son brevet est déposé en 1929. Le chantier de sauvetage de la gare maritime du Havre en 1933 constitue un formidable tremplin pour cette découverte. Mais, c'est seulement après la Seconde Guerre mondiale que la précontrainte commence à se développer. On doit aussi à Eugène Freyssinet l'idée de la vibration du béton.
Dès 1909, Le Corbusier apprend la technique du béton armé en travaillant en tant que dessinateur chez l'architecte Auguste Perret à Paris. En 1910, on le voit employé chez Peter Behrens où il rencontre Ludwig Mies Van Der Rohe et Walter Gropius.
À partir des années 1930, Pier Luigi Nervi conçoit des ouvrages en exploitant un procédé constructif de son cru fondé sur l'utilisation du ferro-ciment, reprise perfectionnée du système Monnier. Le principe : des doubles rangées d'arcs se coupent à angle droit (nervures). L'allègement de structure ainsi obtenu permet de développer des portées considérables. Tout comme Freyssinet, Albert Caquot a été sensibilisé au béton armé. Il construisit avant 1914 le premier pont en bow-string (arc à tirants) à Aulnoye et lance surtout le premier pont à haubans à Pierrelatte en 1952.
Dès les années 1920, la profession se réorganise pour faire face au nouveau marché de la construction en béton. Les outils de production se perfectionnent. Les matières premières (sable, gravier, ciment) sont disponibles partout. Peu à peu, la pierre cède le pas au béton.
Les besoins de logements de l'après-guerre engendrent le développement de la préfabrication. Durant la période 1950-1965, le nombre de logements construits chaque année passe de 50 000 à plus de 550 000. C'est l'époque des grands ensembles. En 1973, le premier choc pétrolier stoppe net ce concept constructif, laissant la place aux programmes de logements plus modestes.
La fin des années 1980 voit l'arrivée du Béton à Hautes Performances (BHP), d'une résistance à la compression supérieure à 50 MPa. Allié à la précontrainte, ce matériau révolutionne la construction des ouvrages d'art qui deviennent plus fins, plus élancés et plus durables. Au début des années 1990, Bouygues, Lafarge et Rhodia explorent le domaine de l'ultra-haute résistance, bien au-delà des 150 MPa. En 1997, ils déposent des brevets pour les Béton Fibré à Ultra-hautes Performances (BEFUP). Derniers progrès en date : les Bétons AutoPlaçants et AutoNivelants (BAP et BAN); mis en œuvre sans vibration, ils s'imposent progressivement sur tous les chantiers depuis 1998 et trouvent leurs applications aussi bien dans les fondations et dalles de maisons individuelles que dans les voiles d'ouvrages ou de bâtiments.