Lors de la Seconde Guerre mondiale, il rejoignit le projet d'armement nucléaire allemand. Il fut présent, en tant que protégé d'Heisenberg, à la réunion du 17 septembre 1939 à Berlin, au cours de laquelle le programme d'armement nucléaire allemand fut lancé En juillet 1940, il a cosigné un rapport militaire sur les possibilités de production d'énergie à partir d'uranium raffiné, et qui a aussi prédit la possibilité d'utilisation du plutonium pour le même usage.
Il s'est plus tard installé à Strasbourg, et c'est la saisie de documents dans son laboratoire par l'armée américaine en décembre 1944 qui a plus tard montré aux Forces alliées que l'Allemagne n'était pas très avancée dans la recherche sur l'arme atomique.
Les historiens se sont divisés pour savoir si Heisenberg et son équipe avait sincèrement tenté de construire l'arme nucléaire, ou si leur échec avait été volontaire, dans l'hypothèse où ils n'auraient pas voulu que le régime nazi possédât une telle arme. Cette dernière possibilité, en grande partie basée sur des entretiens effectués après-guerre avec Heisenberg et Weizsäcker, a été mise en avant par Robert Jungk dans son livre Brighter Than a Thousand Suns, publié en 1957. Weizsäcker y déclare que lui-même, Heisenberg et Wirtz avaient en privé conclu un accord pour étudier le plus à fond possible la fusion nucléaire de façon à pouvoir « décider » par eux-mêmes de l'opportunité d'applications pratiques. « Il n'y a eu aucune conspiration, même dans notre petit cercle de trois hommes, dans l'idée de ne pas faire la bombe. Cependant, il n'y avait aucune passion pour faire la bombe »
La vérité sur ce sujet n'a pas été révélée avant 1993, lorsque les transcriptions de conversations entre physiciens allemands (dont Heisenberg et Weizsäcker), enregistrées secrètement et détenues à Farm Hall depuis la fin de 1945, ont été publiées. Ces transcriptions ont révélé que Weizsäcker était à l'origine d'un accord parmi les scientifiques, selon lequel après la guerre, ils nieraient avoir voulu développer l'arme atomique. Entre eux, ils nommaient cette histoire, qu'ils savaient fausse, « die Lesart » (« la version »). Bien que le document ait été rédigé par Heisenberg, l'un des présents, Max von Laue, écrit plus tard : « Le meneur de toutes ces discussions était Weizsäcker. Je n'ai entendu aucune mention d'un point de vue éthique. » C'est cette version des faits qui a été fournie à Jungk pour servir de base à son ouvrage.
William Sweet a écrit dans le journal Bulletin of the Atomic Scientists :
« Bien que les mémoires s'effacent et que Heisenberg et Weizsäcker se soient sûrement convaincus eux-mêmes que ce qu'ils ont déclaré après la guerre... était réellement vrai, presque tout ce que l'un comme l'autre ont déclaré sur le sujet -- jusqu'aux derniers commentaires de Weizsäcker... -- est complètement faux. »
— William Sweet, The Bohr Letters, Bulletin of the Atomic Scientists, Mai/Juin 2002, 20-27