Piombino a d'abord été connue comme un port de l'époque étrusque, la ville principale de la zone étant alors Populonia (maintenant devenue un hameau de la commune de Piombino). On y débarquait probablement dès la période étrusque du fer pré-traité dans les fours artisanaux de l'île d'Elbe (sous forme d'« éponge de fer » ou blumo).
En 1022 le monastère de San Giustiniano est fondé dans la région, ce qui va stimuler l'activité de pêche. Piombino est en 1115 le second port de la République de Pise : le pouvoir y est exercé par un Capitano ("Capitaine"). La richesse de la ville et l'intérêt portuaire font de la ville un des enjeux stratégiques des conflits entre les Pisans et les Génois (XII ‑ XIII siècles) ; la ville a été à cette époque pillée à plusieurs reprises.
En 1248 le Capitaine Ugolino Arsopachi fortifie la ville.
Le Château de Piombino reste une possession pisane jusqu'à ce que Gerardo Appiani, cédant Pise à la milanaise Visconti, en détache l'Etat indépendant de Piombino, Elbe, Pianosa et Montecristo pour sa famille, qui les a conservés jusqu'en 1634.
En 1445, par l'intermédiaire de son mariage avec Caterina Appiani, Rinaldo Orsini en acquiert la seigneurie. En 1501-1503 la principauté était une possession de Cesare Borgia. En 1509 les Appiani deviennent princes du Saint Empire romain germanique avec le titre de Piombino.
Cosme de Médicis occupe la ville lors de la guerre contre Sienne en 1553 et en 1555 une flotte française et ottomane attaque Piombino, mais est finalement repoussée. En 1557, un traité de paix rétablit la souveraineté des Appiani, à l'exception de Portoferraio, qui est donné au Grand-Duché de Toscane, et de la zone d'Orbetello qui devient une forteresse espagnole ("presidio").
En 1594 une « Principauté de Piombino » est créée par l'empereur Rodolphe II de Habsbourg, le premier prince en étant Alessandro Appiani d'Aragona. En 1634 le titre en est acquis par les Ludovisi, dont Niccolò I avait épousé Polissena Appiani en 1632.
En 1708, le titre passe aux Boncompagni avec Antoine I. En 1801, Napoléon abolit la Principauté, et Piombino et ses terres sont annexés au royaume d'Étrurie, avant en 1805, d'être remis à la soeur de Napoléon, Elisa Baciocchi. Après la défaite définitive de Napoléon et le congrès de Vienne, l'État de Piombino est annexé au Grand-duché de Toscane et puis au royaume unifié d'Italie en 1860.
Au cours de la Seconde Guerre mondiale, après la chute du gouvernement fasciste, Piombino a résisté quelques jours à une tentative d'invasion des forces allemandes par la mer (voir bataille de Piombino) et pour les actes de ses citoyens, la ville s'est vu remettre une médaille d'or de la vaillance militaire par le président Carlo Azeglio Ciampi.
