En 1962, un escadron de F-102A fut déployé au Sud Vietnam et d'autres en Thaïlande. Au cours de la Guerre du Vietnam, ces avions effectuèrent quelques missions d'escorte des bombardiers B-52. En 1965, quelques F-102A furent utilisés pour des missions d'attaque, bien que l'avion ne soit absolument pas adapté à cette mission : il s'agissait plus de harcèlement en tirant des missiles air-air à guidage infrarouge sur des sources de chaleur lors de missions de nuit, ou en tirant les 12 roquettes non guidées lors de missions de jour. Au total, 15 F-102A furent perdus lors de ces opérations, dont 8 suite à des accidents.
Le premier F-102A de série fut livré à l'USAF fin juin 1955, avec quelques modifications par rapport au YF-102A. Les premiers exemplaires furent uniquement utilisés pour les différents essais et n'entrèrent jamais en service actif. Le premier escadron fut déclaré opérationnel le 1er mai 1956. Plusieurs défauts durent être corrigés peu après, comme l'agrandissement de la dérive pour résoudre des problèmes de stabilité horizontale, et une faiblesse du train d'atterrissage. Le système de tir MG-3 fut remplacé par le plus performant MG-10. Fin 1957, une nouvelle aile fut installée, permettant d'augmenter le plafond, la vitesse en altitude, et la manœuvrabilité.
Au début de leur carrière, les F-102A étaient armés de six missiles Falcon à guidage semi-actif (AIM-4A) ou infrarouge (AIM-4C). Par la suite, ils furent dotés du AIM-26A Super Falcon à tête nucléaire et de versions améliorées du Falcon (AIM-4E ou AIM-4F). Dans ce cas, l'armement standard était un AIM-26A et trois AIM-4. Les roquettes placés dans les portes de la soute ventrale furent supprimées, et un système de détection et guidage infrarouge monté devant le pare-brise.
Dès le milieu des années 1960, les F-102A commencèrent à être transférés dans les unités de réserve de l'Air National Guard. Au début des années 1970, plus aucune unité d'active n'utilisait cet avion et les premiers F-102A étaient définitivement réformés. Les derniers d'entre eux furent retirés du service en octobre 1976.
À partir de 1968, une cinquantaine de F-102A et TF-102A de l'USAF furent transférés à la Turquie qui les utilisa jusqu'en 1979. L'année d'après, la Grèce acheta à son tour 19 F-102A et 5 TF-102A d'occasion, qui furent retirés du service en 1978.
Au milieu des années 1970, un certain nombre de F-102A furent déstockés et transformés en drones télécommandés. Ils furent utilisés lors d'exercices pour simuler des avions ennemis tout en permettant un tir à arme réel. Certains avions furent employés lors de tests des systèmes du F-15 ou du missile Stinger.
Le F-102A a été piloté par George Walker Bush durant son service militaire dans la Garde nationale.