Au XIX siècle, les deux parties distinctes de ce pont étaient appelées Passerelle Damiette côté rive droite et Passerelle de Constantine côté rive gauche. Il s'agissait de deux passerelles suspendues construites par Surville. La première sera détruite pendant la révolution de 1848, l'autre (construite entre 1636 à 1638) s'écroulera suite à la corrosion de ses cables en 1872.
Le pont actuel fut construit en 1876, dans le contexte des grands travaux du baron Haussmann, et inauguré le 25 août 1877. Son nom honore Maximilien de Béthune, duc de Sully (1560-1641), ministre d'Henri IV. Ce double ouvrage est l'œuvre des ingénieurs Paul Vaudrey et Gustave Brosselin. Ils lui ont donné un angle d'environ 45 degrés par rapport aux berges, ce qui lui permet d'offrir une splendide vue sur les quais de l'île Saint-Louis et sur la cathédrale Notre-Dame de Paris. La partie sud est constituée de trois arches en fonte, tandis que la partie nord franchit ce petit bras de la Seine d'une arche centrale de 42m en fonte et deux de 15m en maçonnerie.