Les Gallo-Romains ont installé à son sommet un temple dédié à Mercure Dumias, installé au Ier ou au IIe siècle sur l'emplacement d'un ancien temple gaulois, et dont le rayonnement dépassait de loin les limites du territoire arverne. Il fut abandonné vers le IIIe ou IVe siècle et a été redécouvert en 1873 lors de la construction d'un observatoire atmosphérique. Selon Pline l'Ancien, ce temple était orné d'une statue monumentale du Dieu Mercure, œuvre du sculpteur grec Zénodore vers -60, mais il n'y a actuellement aucune preuve de son existence.
Le 19 septembre 1648, Blaise Pascal fit réaliser par son beau-frère Perrier l'expérience dite du puy de Dôme, pour démontrer que le phénomène connu à l'époque sous le nom de "suspension des liqueurs" n'était pas dû au principe aristotélicien de « l'horreur du vide » mais au contraire à l'existence d'une pesanteur de l'air, la pression atmosphérique. La baisse de la pression mesurée sur un baromètre à mercure entre Clermont-Ferrand et le sommet du puy permit de valider cette hypothèse.
Le 22 juillet 1876, Émile Alluard fonde, au sommet du puy de Dôme, le premier laboratoire permanent de météorologie de montagne. Il existe toujours une station d'étude météorologique dépendant de l'université Blaise Pascal de Clermont-Ferrand.
En 1906 fut entrepris la construction d'un chemin de fer à rail central qui reliait la place Lamartine de Clermont-Ferrand (altitude 390 mètres) à une plateforme artificielle proche du sommet à 1 414 mètres. La ligne avait une longueur de 14,7 km et ce chemin de fer circula de 1907 à 1926 avec un coût d'exploitation toujours resté déficitaire.
Il a été créé par les frères Édouard et André Michelin le 6 mars 1908 et récompensa d'une somme de 100 000 francs le premier pilote qui en partant de Paris poserait son avion sur le sommet du puy de Dôme. Le 7 mars 1911, Eugène Renaux accompagné d'Albert Senoucque remporte le prix. Une stèle érigée en 1923 commémore cet exploit. À l'époque, une telle distance n'avait jamais été parcourue en avion. Cette tentative victorieuse faisait suite à celle de Charles Weymann qui se posa à Volvic le 7 septembre 1910 et à celles des frères Morane qui s'écrasèrent à Boissy-Saint-Léger le 5 octobre 1910. Toute l'histoire du prix Michelin est retracée à "l'Aventure Michelin", nouvel espace patrimonial de la marque ouvert depuis janvier 2009 à Clermont-Ferrand.
La route à péage actuelle qui mène au sommet fut inaugurée le 12 juillet 1926 et mit fin à l'accès par voie ferrée.
En 1956, un pylône TDF, haut de 73 mètres, a été installé. Destiné à supporter les antennes de diffusion des programmes audiovisuels, il est devenu aujourd'hui un symbole de ce volcan et permet de le reconnaître de très loin.
En 2006, une étude a été lancée afin d'étudier la possibilité de réinstaller un funiculaire pour monter au sommet du puy de Dôme. Le 28 janvier 2008, le Conseil général du Puy-de-Dôme a voté la réalisation d'un chemin de fer à crémaillère.
La construction des infrastructures a été attribuée à SNC-Lavalin (Canada) et celle des automotrices à Stadler-Rail (Suisse). Les automotrices sont une extrapolation de celles en service à Montserrat (Espagne). La tension de ligne de contact sera du 1,5 kV continue. L'inauguration est prévue pour juin 2012. L'exploitation a été attribuée à SNC-Lavalin.