Dessiné par Edgar Schmued, le T-38 Talon est issu du même projet que celui qui donna naissance au Northrop F-5 Freedom Fighter (le N-156T) mais n'est pas un F-5 biplace comme on pourrait le croire. Cet avion a en fait été commandé dès 1956 par l'US Air Force et le premier prototype fit son vol inaugural en mars 1959, quelques mois avant celui du F-5 dont le développement n'a commencé qu'en 1958 et qui intègre un certain nombre de modifications par rapport au T-38.
Les premiers exemplaires de série furent livrés à partir de 1961 et la production continua jusqu'en 1972. Un total de 1 187 avions ont été construits, dont certains exportés. Aux États-Unis, le T-38 est utilisé à la fois par l'US Air Force et par l'US Navy, ainsi que par la NASA. Il a équipé la patrouille acrobatique des Thunderbirds de 1974 à 1983.
Un premier programme de prolongation de la durée de vie des appareils en plusieurs phases (nommé Pacer Classic) a été lancé en 1984, consistant à réviser la structure de l'avion et à changer les réacteurs. Il a été prolongé par une remise à niveau de toute l'électronique de bord (installation d'un viseur tête haute, d'un GPS, etc.) qui a donné naissance à la version T-38C que l'US Air Force compte utiliser jusqu'en 2020.