La première gare provisoire fut construite en 1862. La construction définitive fut réalisée à partir de 1867 sur un projet de l'architecte Salvatore Bianchi. Elle est située sur la colline de l'Esquilin et prend alors le nom des antiques Thermes de Dioclétien, tout proches. Elle se trouve sur le site d'un quartier populeux du II siècle, abandonné par la suite, qui comprenait des domaines ruraux de familles patriciennes. Au cours du XVI siècle, on y construisit la villa Montalto-Peretti, propriété du cardinal Felice Peretti (qui fut pape sous le nom de Sixte V). La villa fut par la suite acquise par la famille Massimo, qui la céda au Vatican lorsque prit corps, au XIX siècle, le projet de construire une grande gare ferroviaire.
En 1939, fut approuvé le projet d'Angelo Mazzoni pour la réalisation d'un nouvel établissement ferroviaire, la construction d'origine se révélant insuffisante pour satisfaire aux exigences d'un nombre toujours croissant de voyageurs. Les travaux furent interrompus en 1943 et l'œuvre de Mazzoni, restée inachevée, ne fut terminée que dans l'après guerre.
En 1953, elle fut le théâtre du tournage du film éponyme (Stazione Termini) réalisé par Vittorio De Sica sur un scénario de Truman Capote et Cesare Zavattini, et interprété par Jennifer Jones, Montgomery Clift, Gino Cervi, avec Paolo Stoppa dans un petit rôle anonyme.
Le 29 janvier 2000 sont inaugurés les travaux de modernisation de la gare conduits par la société Grandi Stazioni.
L'ancien maire de Rome, Walter Veltroni, avait annoncé son intention de donner à la gare le nom de Jean-Paul II, annonce qui n'a pas convaincu l'ensemble du conseil municipal.