Les indiens Lucayas, primo-habitants de l'île, avaient baptisé l'île, Mamana.
Lorsque Christophe Colomb la découvrit, il la baptisa Santa Maria de la Concepción. L'île acquit son nom actuel plus tard, lorsqu'un navire chargé de rhum y fit naufrage.
L'île fut dépeuplée de ses indigènes par les espagnols qui les réduisirent en esclavage et les déportèrent.
L'île fut repeuplée par des loyalistes britanniques qui fuyaient la révolution américaine et leurs esclaves vers la fin du XVIIIe siècle. Lors de son heure de gloire, au milieu du XIXe siècle, l'île a compté jusqu'à 5 000 habitants. L'île vivait alors de l'industrie du sel et des plantations d'ananas.
En 1861, le navire HMS Conqueror, premier bâtiment britannique à hélice, coula au large de Rum Cay. C'est aujourd'hui un « musée sous-marin » que les plongeurs peuvent venir visiter.
Aujourd'hui, l'île est quasiment dépeuplée, et la seule agglomération encore habitée de l'île est Port Nelson.
