Le 2 août 1951, la société Dassault Aviation signe un marché avec le Service technique de l'aéronautique pour la réalisation d'un prototype plus évolué que le chasseur Mystère II et pouvant atteindre Mach 1 en piqué, mais sans que soit envisagée une production en série. Une nouvelle voilure est dessinée pour l'appareil nommé MD-454 Mystère IV. Par rapport à l'aile du Mystère II, elle est dotée d’un profil biconvexe, d'une plus forte flèche (38° contre 30°) et plus mince (7,5 % au lieu de 9 %). Le fuselage, plus affiné, de section circulaire dans ses parties avant et arrière, a une partie centrale de section piriforme à large base.
Le Mystère IV 01 est équipé du réacteur centrifuge Rolls-Royce Tay, plus puissant et plus fiable que le réacteur axial Atar, préféré par l'armée mais dont le développement n'est pas encore achevé. Le prototype effectue son premier vol le 28 septembre 1952 à Melun-Villaroche aux mains de Kostia Rozanoff, et dure 25 minutes. Les essais révèlent un appareil très réussi qui incite les services officiels à passer une commande en octobre 1952 de 22 avions de présérie.
En décembre 1952, une mission américaine, dont fait partie le célèbre pilote Charles « Chuck » Yeager, vient tester les avions de combat français afin de choisir un modèle dont le financement doit être assuré par l’OTAN. Suite à cela, le Mystère IV est retenu, la précédente commande est annulée et remplacée par une commande de série de 8 Mystère IV A (n°02 à 09) équipés du Rolls Royce Tay.
Le 25 avril 1953, le secrétariat d’État américain passe commande de 225 exemplaires qui sont offerts à l’armée de l’Air française.