Le musée doit son existence au baron Napoléon Gourgaud – arrière-petit-fils du baron Gaspard Gourgaud, compagnon de Napoléon Ier à Sainte-Hélène – qui souhaitait mettre à la disposition du public les collections zoologiques et ethnographiques réunies au cours des trois expéditions qu'il avait menées entre 1913 et 1931 en Afrique australe, centrale et orientale – il participa notamment aux safaris du baron suédois Bror Blixen, époux de la romancière Karen Blixen – et qui seront complétées par la suite par des dons.
Or, dès 1925, le baron Gourgaud et sa femme, une riche Américaine, avaient été séduits par l'île d'Aix, créant la Société des Amis de l'île d'Aix, devenue Fondation Gourgaud.
En 1933 le baron acquiert d'anciennes maisons basses de pêcheurs sur l'île et y installe ses collections, dans un contexte historique particulièrement propice à cette initiative : au début des années 1930, l'engouement des Français pour l'Afrique venait d'être renforcé par le succès de l'Exposition coloniale internationale organisée à la Porte Dorée à Paris en 1931. La question du pillage du continent ou de l'extermination de certaines espèces animales n'était pas d'actualité alors.
Le Musée africain revient à l'État sous réserve d'usufruit et devient musée national en 1959 au décès de la baronne Gourgaud. Depuis cette date il est rattaché au musée du Château de Malmaison.
En tant que témoignage de l'ère coloniale, la muséographie des années 1930 a délibérément été conservée.
Le musée africain de l'île d'Aix apparait dans le film de Robert Enrico, Les Aventuriers (1967), avec Alain Delon et Lino Ventura; dans le film, le dromadaire de Bonaparte vient tout juste d'être acheminé au musée (on assiste indirectement à son voyage en bateau et à son arrivée en fanfare sur l'île).