L'aéroport fut fondé en 1952 près de la commune de Kempton Park dans l'est du Witwatersrand, sous le nom d'"aéroport Jan Smuts", soit deux ans à peine après la mort de l'ancien chef de gouvernement sud-africain. Il remplaçait l'"aéroport international de Palmietfontein" qui desservait l'Europe depuis 1945.
Dans les années 70, l'aéroport Jan Smuts, située en haute altitude, fut utilisé pour les tests d'atterrissage du Concorde.
Après la fin de la politique d'apartheid, le nouveau gouvernement sud-africain le renomma en 1994 aéroport international de Johannesburg appliquant une politique d'alors de ne plus nommer les aéroports d'après le nom de personnalités politiques. Il était auparavant nommé aéroport international Jan Smuts (expliquant son code ICAO: FAJS) baptisé ainsi en hommage à l'ancien premier ministre sud-africain, reconnu également pour son action lors de la Seconde Guerre des Boers, le général Jan Smuts (1870-1950).
En 1996 il devient l'aéroport au trafic le plus dense d'Afrique et le second de la zone Afrique-Moyen-Orient.
Il est renommé aéroport international OR Tambo le 27 octobre 2006 d'après Oliver Tambo (1917-1993), ancien président de l'ANC. Ce changement entre donc en contradiction avec la décision du gouvernement de Nelson Mandela de dépolitiser les noms d'aéroports en Afrique du Sud.
Cet aéroport était l'origine du Vol 771 Afriqiyah Airways qui s'est écrasé le 12 mai 2010 sur l'aéroport international de Tripoli.
