Si les ingénieurs ont beaucoup contribué au développement des bétons, l'idée d'y intégrer des armatures en aciers revient à un garde champêtre et à un jardinier. De même, la mise au point du ciment moderne revient à Louis Vicat, mais Égyptiens et Romains utilisaient déjà des liants pour la construction. Ainsi vont les découvertes, faites de science, de savoir-faire et de hasard.
Le mélange de chaux, d'argile, de sable et d'eau est très ancien. Les Égyptiens l'utilisaient déjà aux alentours de -2600 : un des mortiers les plus anciens est celui de la pyramide d'Abou Rawash, qui fut probablement érigée sous la IVe dynastie. Vers le Ier siècle, les Romains empruntèrent la technique importée par les Grecs de Neapolis dès le Ve siècle av. J.-C. pour améliorer ce « liant » en y ajoutant le sable volcanique de Pouzzoles, ce qui lui permettait de prendre sous l'eau, ou en y ajoutant de la tuile broyée (tuileau), ce qui améliorait la prise et le durcissement. La systématisation de la construction en béton (opus caementicium) permit les réalisations remarquables de l'architecture de l'Empire romain.
Dans la seconde moitié du XVIIIe siècle, l'Anglais John Smeaton entrevoit le rôle que joue l'argile dans l'hydraulicité de certains calcaires. En 1779, Bry Higgins publie ses recherches sur l'importance de la granulométrie des sables destinés à la confection des mortiers, et Jean-Antoine Chaptal établit que les pouzzolanes françaises peuvent sans dommage être substituées aux pouzzolanes italiennes. En 1791, le pasteur anglican James Parker découvre les propriétés des roches naturelles de l'île de Sheppey, et selon A. Maché, cette découverte est le véritable point de départ de l'industrie des ciments naturels.
Pourtant, la découverte du ciment est attribuée en France à Louis Vicat, jeune ingénieur de l'école nationale des ponts et chaussées. En 1818, il fut le premier au monde à fabriquer, de manière artificielle et contrôlée, des chaux hydrauliques dont il détermina les composants ainsi que leur proportion. Préférant la gloire d'être utile à la fortune, il publia le résultat de ses recherches sans déposer de brevet. C'est l'industriel Joseph Aspdin qui dépose en octobre 1824 le premier brevet et crée la marque ciment de Portland.
Les premières usines françaises de Ciment Portland artificiel datent de 1850, celles de ciment de grappier de 1870. La fabrication de ciment de laitier date de 1890.
Pendant l'année 1908, Jules Bied, directeur du laboratoire de la société Pavin de Lafarge, découvre le Ciment Fondu©, fabriqué à partir de calcaire et de bauxite, alors qu'il était à la recherche d'un liant hydraulique qui ne soit attaqué ni par l'eau de mer ni par les eaux sulfatées.
L'armature de métal dans les mortiers provient des techniques de moulage en sculpture et fut utilisé d'abord par des jardiniers expérimentateurs. Joseph-Louis Lambot à Miraval fabriqua en 1845 des caisses pour orangers et réservoirs avec du fil de fer et du mortier, en 1849 une barque, pour son lac, et enfin en 1855 il posa un brevet : le "ferciment", une combinaison de fer et de mortier pour les constructions navales et les caisses à fleur. Il construisit un canot en 1855 qui passa inaperçu à l'Exposition universelle de Paris. Joseph Monier déposa en 1867, à Paris, une demande pour « un système de caisses-bassins mobiles en fer et ciment applicables à l'horticulture ». Les années suivantes, il déposa des additifs et constitua systématiquement des procédés d'architecture.
Le mortier armé était un procédé trop coûteux et trop fragile pour être utilisé en architecture.
L’église Saint-Jean de Montmartre en 1894-1904 (briques enfilée sur barres métalliques et remplies de mortier) et la toiture en voûte du théâtre de Tulle d'Anatole de Baudot en sont de rares exemples. L'architecte utilise le procédé économique de construction en mortier armé breveté par l'ingénieur Paul Cottancin. Ce système consiste en une sorte de toile métallique dont la trame et la chaîne sont formées par le même fil de fer ; les parois sont constituées de briques empilées.