Dès janvier 1964, la politique de défense nationale française, privilégiant désormais la dissuasion nucléaire, entraîne la réorganisation complète de l’armée de l'Air avec la création de 4 régions aériennes et 7 grands commandements spécialisés, dont le commandement de la Force aérienne stratégique (ou des Forces aériennes stratégiques) (CoFAS). Le Mirage IV et l'avion ravitailleur Multi-Role Tanker Transport (MRTT) Boeing C-135F sont les binômes de la FAS. Les 62 exemplaires du Mirage IV sont livrés de février 1964 à mars 1968 et les 12 exemplaires du C-135-F no 38470 à no 38475 et no 38735 à no 38740 de février 1964 à juillet 1965.
Le 7 mars 1966, le président de la République Charles de Gaulle, partisan d'une réforme doctrinale de l'OTAN annonce au président des Etats-Unis Lyndon Johnson le retrait de la France du Commandement intégré de l'organisation.
La mission du Mirage IV consiste, à partir d'un avion volant en supersonique à haute altitude (Mach 1,7 à 18 000 m), à délivrer de façon aussi discrète que possible une bombe nucléaire « sur un but déterminé par ses seules coordonnées géographiques », avec une erreur circulaire probable (ECP) à 90 % garantie (CEP90), quelle que soit la distance parcourue depuis le départ. Plusieurs axes de pénétration à haute altitude et avec ravitaillement en vol vers l'URSS ont été établis : l'un par le nord via la mer Baltique permettant de bombarder Mourmansk ou la capitale Moscou, l'autre par le sud via le détroit du Bosphore permettant d'attaquer des cibles de l'URSS comme Novorossiisk et Odessa ou Sébastopol (Ukraine) et un dernier sans ravitaillement en vol permettant d'atteindre le bloc de l'Est hors URSS. En 1968, au plus fort de la dotation, 62 Mirage IV (dont 18 en alerte opérationnelle) forment l'ossature de 3 escadres de bombardement représentant 9 escadrons de bombardement (EB) et 1 d'entraînement :
S'y adjoignent 12 avions ravitailleurs Boeing C-135F (dont 3 en alerte opérationnelle), dispersés en 3 escadrons (ERV) :
Enfin, s'y rajoutent :
Ne dépendant pas de la FAS, plusieurs installations ont été utilisées par celle-ci :
Le DC-8 Sarigue de guerre électronique SIGINT, quoique dépendant du Centre d'essais en vol (CEV) de la BA 110 à Creil, a servi au profit de la FAS afin de connaitre depuis l'espace aérien international l'état des défenses aériennes soviétiques et ainsi préparer au mieux les missions des Mirage IV. Il est basé à :
Rappelons enfin qu'au moins deux C-160G Gabriel SIGINT ont également rempli des missions pour la FAS. Ils sont basés à :
A l'été 1965, la Marine nationale française créée le Groupe aéronaval du Pacifique (dit groupe Alpha puis force Alpha) comprenant sept bâtiments dont le Foch qui appareillent le 23 mars 1966 de Toulon et abordent la Polynésie française le 22 mai 1966 afin de superviser les essais atmosphériques no 18 Aldébaran, no 19 Tamouré, no 20 Ganymède et no 21 Bételgeuse.
Durant la traversée, la France quitte le commandement intégré de l'OTAN pour les raisons déjà précisées.
L'objectif de Tamouré est le convoyage au départ de la BA 118 de Mont-de-Marsan (France métropolitaine) d'un Mirage IV de l'EB-1/91 « Gascogne » et de deux ravitailleurs en vol Boeing C-135F no 736 et no 470 de l'ERV 4/91 « Landes » pour effectuer un tir réel de l'AN-21 de 60 kt (dérivée de l'AN-11) au Centre d'expérimentation du Pacifique. Le 10 mai 1966 à 9 h GMT, le Mirage IV no 36 s'envole pour la 1re traversée transatlantique de 7h40 d'un avion de combat français à destination de l'Otis Air Force Base, à Falmouth (États-Unis). Après trois escales, le Mirage IV est endommagé lors de son atterrissage sur la piste de 3 380 m de la BA 185 à Hao (Polynésie française). Son renvoi en France métropolitaine par mer est décidé tandis que le Mirage IV no 9 le remplace au pied levé. Le 12 juin 1966, la Marine nationale française repère dans la zone d'exclusion le bâtiment de recherches scientifiques américain USS Belmont puis, le 1er juillet 1966, un sous-marin de nationalité inconnue et un avion ravitailleur (vraisemblablement d'observation et de recueil de prélèvements atomiques) KC-135 de l'US Air Force no 9164. Le 9 juillet 1966, le navire de contrôle de missiles et d'engins spatiaux USS Richfield viole à son tour la zone d'exclusion. Le 12 juillet 1966, le même KC-135 de l'US Air Force est à nouveau repéré à la veille du tir, qui sera reporté pour raisons météorologiques à quatre reprises. Le 18 juillet 1966, des conditions favorables relevées jusqu’à 5 000 km du champ de tir par les stations météorologiques et par les C-135F entraînent la mise en alerte du Mirage IV le 19 juillet 1966 à 4 h locales. À 5 h 05, il largue sa bombe AN-11 à chute libre no 2070 au large de Moruroa. Le KC-135 de l'USAF et le USS Richfield de l'US Navy sont aperçus une heure après le tir. Dès la formation du nuage atomique, quelques uns des 10 SO-4050 Vautour N et B de l’escadron de marche 85 « Loire », débarqués à la BA 185 à Hao le 16 mai 1966, effectuent les prélèvements des retombées par tir de missile air-air ou, plus dangereusement, par la traversée du champignon atomique. La plupart seront coulés par le fond. À noter qu'un autre tir, Bételgeuse, prévu le 10 septembre 1966 sur ordre du président de la République Charles de Gaulle à bord du croiseur De Grasse (C 610), est retardé au 11 septembre 1966 à la suite de la demande américaine (le 8 septembre 1966) d'aider au repêchage de la capsule spatiale Gemini 11 et du repérage de l'USS Richfield (le 9 septembre 1966). Après deux autres tirs le 24 septembre 1966 et le 4 octobre 1966, le groupe aéronaval quitte la Polynésie française le 2 novembre 1966.
Le Mirage IV ne sera plus jamais sollicité pour des exercices réels de tirs atomiques, notamment lors du 2e déplacement de la force Alpha en Polynésie française pour le 1er tir français d'une bombe H, le 28 août 1968.
En 1966, l'armée de l'Air s'aperçoit que les missions à haute vitesse et haute altitude deviennent de plus en plus risquées en raison de la mise en service par l'URSS et le Pacte de Varsovie des missiles sol-air (SAM) Mach 3,5 et de 40 km de portée SA-2 Guideline, SA-3 Goa et SA-6 Gainful. Alors que de nouvelles composantes de la « triade » stratégique française se mettent en place (les missiles balistiques du plateau d'Albion et ceux tirés de SNLE de la Force océanique stratégique), une évolution des profils de mission changent pour permettre la pénétration à très basse altitude (jusqu'à moins de 200 mètres du sol à 800 km/h) et le largage de la bombe AN-22 de 70 kt avec parachute en manœuvre tactique Low Angle Drogue Delivery (LADD). Pour ce faire, les structures de l'avion sont renforcées, le SNB et les équipements sont améliorés. Enfin, les appareils perdent leur livrée aluminium à dérive tricolore et reçoivent un camouflage gris/vert.
Le retrait du Mirage IV, prévu en 1976 a déjà été repoussée à 1985. Alors que les Mirage IV de reconnaissance dotés du pod CT52 auraient dû être les seuls à rester en service, en octobre 1979 le ministère de la Défense français prend la décision de transformer 15 Mirage IVA en Mirage IV 'N' (pour Nucléaire) capables d'emporter le missile Aérospatiale ASMP, destiné à remplacer l'AN-22, et dont le contrat de développement est signé en avril 1978. Ce missile pré-stratégique est en fait un missile de croisière Mach 3, propulsé par un statoréacteur à kérosène.
Finalement, 18 avions sont modifiés et désignés alors Mirage IVP (pour Pénétration). Dans un premier temps, le prototype Mirage IV-04 est utilisé pour les tests statiques de l'ASMP. En 1981, les Mirage IV no 8 et no 28 mènent les premiers tirs d'une maquette de l'ASMP. Les lancements véritables commencèrent en juin 1983 pour s'achever à la mi-1985. Le Mirage IVP est opérationnel à partir de mai 1986, le dernier avion étant livré en 1987.
En 1988, la mission de bombardement nucléaire est confiée au nouveau Mirage 2000N. Seuls 8 (puis 7, puis 6, puis 5 en septembre 2003) Mirage IVP « dénucléarisés » sont conservés pour des missions de reconnaissance à longue distance au sein de l'Escadron de reconnaissance stratégique ERS 1/91 « Gascogne » tandis que le reliquat finit sa carrière au « cimetière » de la BA 279 Châteaudun. Le Mirage IVP est alors le seul avion de reconnaissance stratégique au monde, avec le U2, toutefois peu adapté à certaines missions en raison de son plafond trop haut et de sa vitesse subsonique.
La première mission de reconnaissance à longue distance eu lieu en septembre 1974 : suite à l'enlèvement de Françoise Claustre, les Mirage IV effectuèrent plusieurs vols au-dessus du Tchad, depuis la Base aérienne 125 Istres-Le tubé. Ces missions duraient environ 8 heures et nécessitaient cinq ravitailleurs C-135F en soutien.
D'autres missions en Afrique furent réalisées, toujours liées aux événements au Tchad, notamment en mai 1978 et fin 1984. La plus longue d'entre elle eut lieu en février 1986, afin de vérifier les dégâts occasionnés par les Jaguar français lors de l'attaque des installations libyennes d'Ouadi-Doum : menée à partir de la Base aérienne 106 Bordeaux-Mérignac, elle dura 11 heures et nécessita 12 ravitaillements en vols.
Un nombre inconnu de Mirage IV de la BA 118 participe avec quelques Mirage 2000D à l'opération Deliberate Force de l'OTAN/ONU en Bosnie, visant à sécuriser les éléments de la FORPRONU dans leurs « zones neutres » (safe areas) par la destruction de l'artillerie, des postes de commandement, des installations militaires et des moyens de communication de la Bosnian Serb Army (BSA)
Un nombre inconnu de Mirage IVP est détaché à Djibouti dans le cadre de l'opération Condor de l'ONU, confiée à la France, visant à superviser les opérations de médiation et de surveillance d'un cessez-le-feu entre entre le Yémen et l'Érythrée dans le conflit qui les oppose à propos des îles Hanish.
Faisant suite à l'opération française Salamandre (1996) à Mostar et Sarajevo, trois Mirage IVP de l'ERS 1/91 sont détachés sur la BA 126 à Solenzara, en Corse dans le cadre de l'opération Allied Force/Trident de l'OTAN durant la guerre du Kosovo, qui mobilise plus d'une centaine d'aéronefs de l'armée de l'air et de l'aviation navale du porte-avions Charles-de-Gaulle ainsi que 6 500 militaires français au sol. La mission des Mirage IVP consiste à survoler la Serbie deux fois par jour, à l'aller (traversée à faible vitesse de l’Italie entre Rome et Pescara, 1er ravitaillement en vol par C-135FR au-dessus de la mer Adriatique, puis survol de la Serbie à Mach 1,8 et 45 000-50 000 pieds) comme au retour (2e ravitaillement en vol au-dessus de l'Adriatique, nouveau survol de la Serbie et 3e ravitaillement). Après développement, les films étaient acheminés, au début de l’opération, par l'Alpha Jet de l'ERS 1/91 à Vicenza, siège de l’État-major de l'OTAN, puis, par la suite, par transfert informatique. En parallèle, les images obtenues étaient aussi transférées sur la BA 110 à Creil, siège de la Direction du renseignement militaire (DRM).
Deux Mirage IVP et deux C-135FR sont détachés sur la base aérienne d'Al Dhafra de la UAEAF aux Émirats arabes unis dans le cadre de l'opération française Heraclès durant la guerre d'Afghanistan, qui mobilise des Mirage 2000 puis Rafale de l'armée de l'air et de l'aviation navale du porte-avions Charles-de-Gaulle, plusieurs autres navires ainsi que 2 200 militaires français au sol. La mission de six heures des Mirage IVP consiste à survoler l'Afghanistan une fois par jour aller (traversée de la mer d’Oman, survol par le sud du Pakistan, 1er ravitaillement en vol par C-135FR au-dessus de l'Afghanistan, mission de reconnaissance d'une heure 40) et retour (après un 2e ravitaillement). Un total de 80 missions seront effectuées à partir du 21 octobre 2001. Les Mirage IVP regagnent la France métropolitaine en février 2002.
Faisant suite à l'opération Aladin (1998), deux Mirage IV en livrée gris/vert portant le sigle 'UN' sur la dérive et deux C-135FR s'envolent de la BA 125 d'Istres le 21 février 2003 et sont déployés sur la base aérienne Prince Sultan de la RSAF à Al Kharj en Arabie saoudite dans le cadre de l'opération Tarpan de l'ONU, visant à épauler les inspecteurs en désarmement qui sillonnent l'Irak à sa demande. Les missions débutent le 26 février 2003 à raison d'un vol quotidien en moyenne d'une durée de 4 à 5 heures. Les deux Mirage IV photographient environ 110 000 km2 du territoire irakien au cours, selon le ministre de la Défense français Michèle Alliot-Marie, « de missions planifiées de survol de l'Irak, qui auront été préparées avec les inspecteurs, et d'autre part [...], la possibilité que les Mirage IV effectuent des missions d'opportunité sur certains sites [...], des missions qui sont fixées en dernière minute, par exemple le matin même, à la demande des observateurs en Irak. » Bien que certains survols sont « illuminés » par la DCA irakienne, ils se déroulent à vitesse subsonique et à moyenne altitude. La France comme l'ONU peuvent visionner les photos quelques heures à peine après le survol des objectifs pour identifier les zones « suspectes » supposées abriter des armes de destruction massive. Les avions regagnent la Base aérienne 118 Mont-de-Marsan le 19 mars 2003 et, le lendemain, la coalition américano-britannique envahit l'Irak.
L'ERS 1/91 « Gascogne » est officiellement dissous le 23 juin 2005, marquant la fin de carrière définitive des cinq derniers exemplaires encore en service. En 41 ans, les Mirage IV auront effectués environ 337 000 heures de vol. Le dernier vol de l'avion sera effectué le 30 juin 2005 par les exemplaires no 61 (F-THCH) et 62 (F-THCI) au départ de la Base aérienne 118 Mont-de-Marsan, pour rejoindre leur lieu d'exposition.
Plus de 15 avions ont été conservés et sont désormais exposés sur des bases aériennes ou dans des musées. On peut signaler en particulier :