La notion de vice-recteur apparaît avec le décret n°47-1287 du 27 juin 1947 qui confie le soin du service de l'instruction publique en Guadeloupe, en Guyane, en Martinique et à la Réunion, à des inspecteurs d'académie qui « ont rang et titre de vice-recteur », ces derniers étant placés sous l'autorité du recteur d'une académie de métropole (Aix-Marseille pour la Réunion, Bordeaux pour les trois autres), d'où le nom de vice-recteur. Choisis parmi les inspecteurs d'académies, les vice-recteurs sont compétents pour l'enseignement primaire, secondaire et technique, ainsi que pour l'administration de la jeunesse et des sports. Ils peuvent éventuellement prendre des mesures d'urgence dans les autres domaines, notamment le supérieur.
En 1970, le décret n°70-47 du 15 janvier crée quatre nouveaux vice-rectorats dans quatre territoires d'outre-mer : Nouvelle-Calédonie, Polynésie française, Saint-Pierre-et-Miquelon, îles Wallis-et-Futuna. Les vice-recteurs de ces territoires exercent grosso modo les mêmes compétences que celles décrites plus haut.
Il a aussi existé brièvement un vice-rectorat en Corse sur le même modèle, l'organisation des enseignements supérieurs dépendant toujours de l'académie d'Aix-en-Provence (sauf pour les bourses de l'enseignement supérieur). Cette situation n'a toutefois duré qu'une année, le décret n°75-1026 du 6 novembre 1975 ayant fondé une académie de plein exercice en Corse.
En 1978, suite au changement de statut de Saint-Pierre-et-Miquelon, le vice-rectorat est remplacé par un service territorial de l'éducation. De même, la création de régions dans les départements d'outre-mer entraîne le remplacement des vice-rectorats correspondants par deux académies :
- « Académie des Antilles-Guyane » en 1973 (qui sera scindée en trois académies distinctes pour chacun des départements la constituant en 1996)
- « Académie de La Réunion » en 1984.
En 1999 le décret n°99-941 du 12 novembre 1999 en crée un nouveau vice-rectorat à Mayotte, faisant ainsi porter le nombre actuel de vice-rectorats à quatre.