Dès l'Ancien Empire, les expéditions militaires vers la Nubie partaient de l'île Éléphantine. Fortifiée dès le IV millénaire av. J.-C., Sount, la « ville des flots » bâtie au sud de l'île, servait dès l'Ancien Empire de poste douanier et de place d'échange commerciale avec le Sud. Les fouilles de ces dernières décennies on permis de dégager les ruines de la cité de l'Ancien Empire qui était abritée derrière une imposante muraille de briques crues. Outre les quartiers d'habitation, la cité comprenait un quartier résidentiel pour le gouverneur de la région, des greniers et un sanctuaire rupestre consacré à Satis dont l'état le plus ancien remonte à la VI dynastie. On y a également dégagé une structure en maçonnerie que l'on pense être une petite pyramide à degrés et qui ferait partie d'une série de monument de ce style édifiés à la IV dynastie par Snéfrou ou peut être son prédécesseur Houni (III dynastie). Ces structures construites en assises régulières et réservées sont architecturalement très proche des édifices pyramidaux des débuts de l'Ancien Empire, comportant au moins trois degrés et symboliseraient le pouvoir royal dans cette lointaine province.
Les vestiges de sculptures et d'inscriptions des XI et XII dynasties sont le témoignage des constructions monumentales du Moyen Empire.
Au Nouvel Empire de nombreux temples seront édifiés sur l'île Éléphantine, dont un temple dédié à Khnoum, un temple périptère remontant à Hatchepsout et Thoutmôsis III dédié à Anoukis et un kiosque de même style datant d'Amenhotep III. Avec le temps, la ville grossit et s'étendit sur la rive orientale du Nil en face de l'île Éléphantine, devenant la Syène des derniers temps de l'Égypte pharaonique.
Nectanébo reconstruit le temple consacré à Khnoum, le principal dieu, seigneur de la cataracte, gardien des sources du Nil ainsi qu'à ses parèdres Anoukis (ou Anouket) et Satis (ou Satet).
La ville continue à se développer à l'époque des Ptolémées dans l'île et sur la rive orientale, à l'emplacement d'Assouan. De cette époque, il reste un temple consacré à Isis, le fragment de quai conservé sur la rive sud de l'île ainsi que l'un des derniers nilomètres présents sur le fleuve.
Au XIX siècle, on pouvait encore voir des temples de Thoutmôsis III et d'Amenhotep III qui, par la suite, furent complètement détruits pour les nécessités de l'industrie naissante de l'Égypte moderne. Des fouilles du début du XX siècle eurent pour résultat de mettre au jour des papyrus araméens de l'époque perse, qui témoignent de l'existence dans ce lieu, depuis le VI siècle avant notre ère, d'une colonie juive qui avait son propre temple consacré à YHWH.
Dès les premières dynasties, l'île Éléphantine était au pouvoir de princes (les nomarques) dont les sépultures, depuis l'Ancien Empire (VI dynastie) jusqu'au Moyen Empire (XII dynastie) se trouvent creusées dans le flanc de la colline qui borde la rive occidentale du fleuve.
Ce sont des tombeaux rupestres, des hypogées, parfois composés de vastes chambres soutenues par des piliers et colonnes réservés dans la roche comme le tombeau double de Sabni et de Mekhou de la VI dynastie. Le vaste tombeau de Sarenpout I, de la XII dynastie, est particulièrement remarquable : il est tout-à-fait comparable, dans son agencement, aux tombes rupestres de Beni Hassan.
Les tombeaux sont numérotés : Sarenpout I (n° 36), Pepynakht (Hekayib) (n° 35), Herkhouf, Khunes, Sarenpout II (n° 31), Sabni (n° 25), Mekhou (n° 26). Depuis la berge du Nil, des rampes mènent à ces tombeaux où sont conservés quelques bas-reliefs. La nuit ils sont illuminés et peuvent clairement être vus d'Assouan.
Au sommet du plateau, à l'ouest des tombeaux des nomarques, à deux kilomètres du Nil, il y a le monastère de Saint-Siméon (Deir Amba Samaan), qui est l'un des plus importants monuments de l'époque chrétienne. C'est une construction fortifiée, entourée d'un puissant mur, haut de six à sept mètres, en pierre dans sa partie inférieure et en brique dans sa partie supérieure. Cet édifice, fondé au VIII siècle, est l'un des plus grands monastères d'Égypte. À l'intérieur de l'enceinte, le monastère se compose de trois terrasses irrégulières. Sur la terrasse inférieure se trouve l'église à trois nefs ; les autres corps de bâtiments comportent des cellules. Les autres salles consistent en cuisines, magasins, écuries, pressoir à olives et autres installations domestiques. Le monastère fut vraisemblablement abandonné au XII siècle.