La première utilisation de l'avion au combat eut lieu quand les deux prototypes V5 et V7 furent envoyés en France, le 25 juillet 1944, pour photographier la tête de pont alliée en Normandie, ce que les avions de reconnaissance ordinaires ne pouvaient plus faire. Seul le V5 put être employé, l'autre avion devant retourner en Allemagne à la suite à des problèmes de moteur. Piloté par le Leutnant Erich Sommer, il effectua un premier survol des plages le 2 août 1944, volant à 9000 mètres à 740 km/h ; il ne fut même pas détecté par la chasse alliée. Pour cette mission, 2 caméras Rb50/30 étaient montées à l'arrière du fuselage, inclinées à 12 degrés de part et d'autre de l'avion, ce qui permettait de photographier une bande de 10 kilomètres de large autour de la trajectoire de l'avion. Ce même jour, l'avion fut rejoint par l'autre prototype, et à eux deux ils effectuèrent 13 autres missions de ce type au cours des 3 semaines suivantes. Les données qu'ils ramenèrent, même si elles étaient de grande qualité, avaient peu d'utilité pour les commandants de la Wehrmacht, qui savaient déjà ce qu'elles montraient : ils étaient nettement inférieurs en nombre sur ce front. En septembre, les 2 avions furent retirés des opérations, et remplacés par les premiers Ar 234B ; ces derniers opèrent à partir d'octobre, toujours dans un rôle de reconnaissance, survolant même l'Angleterre, pour déterminer si un nouveau débarquement était en préparation sur les côtes des Pays-Bas. Ce ne fut que le 21 novembre qu'une formation d'escorte de P-51B aperçut pour la première fois l'avion ; les Arados, se voyant découverts, et avec l'avantage de l'altitude, s'esquivèrent en profitant de leur plus grande vitesse.
Les premières missions de bombardement furent menées le soir de Noël 1944, en soutien de l'offensive des Ardennes. 9 Ar 234B, armés d'une seule bombe de 500kg sous le fuselage, s'en prirent à la ville de Liège. Plusieurs missions furent alors accomplies avant que le temps ne se dégrade début janvier. Le nombre d'avions et la charge offensive emportée fit cependant de ces bombardements davantage des missions de harcèlement. À cette époque, la Luftwaffe ne peut aligner que 17 Ar 234B, 12 configurés en bombardiers et 5 pour la reconnaissance. Lorsqu'ils opèrent comme bombardiers, les pilotes ont 3 méthodes d'attaque : le survol à basse altitude, pendant lequel ils larguent les bombes au jugé, le bombardement en piqué léger commencé à 5000 mètres, où ils utilisent le périscope pour viser, et le survol à haute altitude. Ce dernier est particulièrement intéressant et difficile, pour les pilotes car ceux-ci, seuls à bord, cumulent les fonctions de pilote et de bombardier ; ils y sont néanmoins grandement aidés par un autopilote Patin, très sophistiqué. La passe de bombardement est amorcée à 30 kilomètres de l'objectif, le pilote engage alors le pilote automatique, puis repousse la colonne de commandes de vol, pour accéder au viseur de bombardement Lotfe 7K situé dans le nez vitré de l'avion. Ce viseur asservit l'autopilote, ce qui permet d'ajuster la trajectoire vers l'objectif en maintenant ce dernier sur le réticule de visée, les bombes étant larguées automatiquement grâce à un calculateur mécanique.
La forte présence aérienne alliée, malgré sa faible vulnérabilité en vol, rend cependant les opérations très risquées. Au début janvier, alors qu'il atterrissent sur l'aérodrome où il viennent d'être transférés, 18 Ar 234 sont coiffés par des Spitfire, qui en détruisent 3 et en endommagent 2 autres, tuant 2 pilotes allemands. Néanmoins, quand le temps s'améliore, les Ar 234 mènent autant de missions que possible au-dessus des Pays-Bas et dans le cadre de la défense d'Aix la Chapelle. L'un d'entre eux sera capturé au sol, le 24 février, après qu'il eut été contraint par un P-47 à atterrir en catastrophe avec ses moteurs en panne. En effet si ses pilotes le trouvent agréable à piloter, la faible fiabilité des moteurs reste un problème constant. L'extinction des moteurs suite à une manœuvre trop brusque est très courante, le pilote doit alors attendre d'être en dessous de 4000 mètres d'altitude et de 500km/h de vitesse pour rétablir l'alimentation en carburant sans risque d'incendie. Le problème empire quand, suite aux pénuries de carburant convenable, on utilise l'avion avec des essences non prévues. Autre problème majeur pour les pilotes, l'avion, bien que certains prototypes en aient utilisé, est dépourvu de siège éjectable, ce qui rend périlleuse l'évacuation de l'appareil en cas de problème. Le pilote doit alors se glisser par une écoutille vitrée située sur le dessus de son habitacle, solution qui si elle était satisfaisante dans le cas des bombardiers précédents, se révèle quasiment impraticable sur un avion à réaction. La longueur de piste nécessaire au décollage provoque aussi nombre d'accidents mais l'entraînement des pilotes sur le Me 262 et l'usage fréquent de fusées d'assistance au décollage finiront cependant par régler le problème.
La prise du pont Ludendorf à Remagen, sur le Rhin, va être l'occasion du plus gros emploi de l'Arado Ar234 comme bombardier. Sur l'ordre de Hermann Göring, tous les avions disponibles vont tenter de détruire le pont ; attaquant souvent à basse altitude, ils subiront des pertes sérieuses, en particulier du fait de l'artillerie antiaérienne, sans réussir à toucher l'ouvrage. Le pont s'affaissera de lui-même le 17 mars, mais la tête de pont alliée est alors solide et desservie par un pont de bateaux construit rapidement. Manquant d'essence et de pilotes qualifiés, les Ar 234 continuent la lutte, jusqu'à l'écroulement du Troisième Reich. Quelques avions seront modifiés sur le terrain, pour servir comme chasseurs de nuit. Ils emportent alors un radar FuG 218 "Neptun" à large bande, et une paire de canons MG-151/20 montée en gondole sous l'avion. Le dernier inventaire de la Lutwaffe, le 10 avril 1945, en comptabilise 38 opérationnels, 12 bombardiers, 24 avions de reconnaissance et 2 chasseurs de nuit. Après la défaite allemande, 12 exemplaires furent récupérés part les Anglais, 3 par l'USAAF, 1 par l'US Navy ; les Soviétiques, eux, semblent ne s'être emparé que d'un unique exemplaire, l'avion ayant principalement servi sur le front ouest. Un des 3 exemplaires de l'USAAF put être testé de façon intensive sur la base de Wright Patterson ; il est apparemment le dernier exemplaire survivant de l'avion, et est conservé au Smithsonian Institution's Air & Space Museum.