La découverte de Ganymède est généralement créditée à Galilée qui documenta son existence en 1610. Galilée observa les lunes qui portent son nom entre décembre 1609 et janvier 1610. Le 7 janvier 1610, il écrivit une lettre mentionnant ses observations, la première mention écrite de satellites de Jupiter. À ce moment, il n'en vit que trois et pensa observer des étoiles. Entre le 8 janvier et le 2 mars 1610, il découvrit un quatrième corps et observa la révolution des quatre lunes galiléennes autour de Jupiter. Cependant, il est possible que Gan De, un astronome chinois, l'ait observée en 362 av. J.-C..
L'astronome allemand Simon Marius publia en 1614 l'ouvrage Mundus Iovialis anno M.DC.IX Detectus Ope Perspicilli Belgici (Le monde jovien découvert en 1609 grâce au télescope belge), dans lequel il prétendait avoir observé les quatre satellites de Jupiter dès novembre 1609. Cependant, Marius n'ayant pas publié ses observations avant 1614, il n'est en général pas crédité de cette découverte.
Selon l'historien de l'astronomie chinois Xi Zezong, l'astronome chinois Gan De aurait observé l'une des lunes de Jupiter en -362, près de deux millénaires avant Galilée. Les lunes galiléennes peuvent en effet être distinguées à l'œil nu, lors de leur élongation maximale et dans des conditions d'observation exceptionnelles.
Ganymède fut visité par la sonde Voyager 2 en juillet 1979, lors de son survol de Jupiter. Les images prises par la sonde montrèrent que Ganymède était le plus gros satellite du système solaire et présentait deux types de terrain différents.
La sonde Galileo orbita autour de Jupiter entre décembre 1995 et septembre 2003. Pendant cette période, elle eut l'occasion d'observer Ganymède, elle permit de découvrir que le satellite possédait son propre champ magnétique et elle apporta des preuves de l'existence d'une atmosphère ténue et d'une couche d'eau en dessous de la surface.
Ganymède est un des principaux objectifs scientifiques de la mission spatiale Europa Jupiter System Mission prévue vers 2020.
En opposition, la magnitude apparente de Ganymède atteint 4,61 ±0,03 ; à son élongation maximale, il peut être possible de le distinguer de Jupiter à l'œil nu dans des conditions d'observation favorables (les lunes galiléennes et la Lune sont les seuls satellites naturels qu'il est possible d'observer sans l'aide d'un instrument).
Ganymède peut être observé sans peine avec les plus petites jumelles.