Le mot oie (oue au Moyen Âge) proviendrait d'un mot du bas-latin, auca ou avica, désignant cet oiseau. Ce terme a remplacé anser, le nom latin de l'oie utilisé au moins depuis Plaute et qui est utilisé comme nom générique pour de nombreuses espèces d'oies. Le terme cendrée fait référence à la couleur grise de sa poitrine.
Au cours de l'histoire des sciences, cet oiseau s'est vu attribuer de nombreux noms scientifiques : Anser domesticus et Anser ferus (Gesner, 1617-21) selon qu'il était domestique (domesticus) ou sauvage (ferus), Oca paglietana (Gerini, 1767-76), Anser anser ferus (Bechstein, 1803), Anser cinereus (Meyer, 1810), Anser vulgaris (Pallas, 1811), Anas cinerea (Ranzani, 1821-23), Anser palustris (Fleming, 1828), Anser sylvestris (C. L. Brehm, 1830), Anser cineraceus (Marchand, 1877), ainsi que, pour la sous-espèce Anser anser rubirostris, Anser erythropus (G. R. Gray, 1844), Anser rubrirostris (Hodgson, 1844) et Anser cinereus rubrirostris (Swinhoe, 1871)
Trois sous-espèces d'oie cendrée sont classiquement distinguées :
Les races domestiquées sont regroupées sous le taxon :
Le plus ancien fossile d'oie cendrée a été découvert en Russie par Sergueï Roudenko et I. M. Pavlioutchenko en 1954. Ce fossile a été daté de la fin du Pléistocène, c'est-à-dire il y a entre 126 000 et 11 000 ans.