Kos est citée dans l'Iliade d'Homère dans le Catalogue des vaisseaux du deuxième chant (676-680) comme apportant avec Kalymnos, Nissiros, Kassos, et Karpathos, trente vaisseaux sous le commandement de Phidippe et Antiphos à l'armée des Argiens menée par Agamemnon et Achille. Dans l'Antiquité, Kos possédait une école médicale réputée, la confrérie des Asclépiades. Hippocrate est sans doute le natif le plus célèbre de l'île.
L'entrée du port est contrôlée par un fort érigé en 1315 par les chevaliers de l'ordre de Saint-Jean de Jérusalem.
L'île resta sous domination de l'empire ottoman de 1525 jusqu'à 1912, date à laquelle elle fut occupé par l'Italie comme une grande partie des îles du Dodécanèse. Après la chute de l'Italie mussolinienne en 1943, les britanniques ouvrent la campagne du Dodécanèse en septembre 1943, mais leurs troupes perdent en octobre 1943 la bataille de Kos puis une partie du Dodécanèse, Cos tombant alors sous le contrôle des troupes allemandes jusqu'en 1945. Après la capitulation allemande, Cos devient un protectorat britannique pendant deux ans puis entre dans le giron grec en 1947 comme l'ensemble du Dodécanèse.
