Les U-Boots furent une composante majeure de la bataille de l'Atlantique, qui dura jusqu'à la fin de la guerre. La stratégie de l'amiral Doenitz, Befehlsbaber der U-Boote (commandant des U-boote) était d'étrangler l'Angleterre qui continuait le combat contre l'Allemagne nazie, en coulant les navires qui traversaient l'Atlantique pour la ravitailler.
Les premiers mois de la guerre virent les U-Boote accumuler les succès. Fin 1939, l'U-47 commandé par Günther Prien, se déjouant de toutes les défenses, pénétrait dans la baie de Scapa Flow (Nord de l'Ecosse), base navale de la Home Fleet britannique, et coulait le cuirassé Royal Oak. Le public découvrit, outre Prien, les autres as de cette guerre sous-marine dont Churchill dit plus tard qu'il fut le seul péril qu'il redouta réellement pendant la guerre: Kretschmer, Schepke, Endrass....
A la tactique des convois mise en œuvre par l'Amirauté pour protéger les cargos, Doenitz répliqua en groupant ses Loups gris en meute. Lorsqu'un sous-marin avait repéré un convoi, il indiquait sa position au BdU qui lançait alors à la poursuite du convoi les autres sous-marins présents dans la zone. Une fois réunis, ils lançaient alors des attaques meurtrières sur des convois insuffisamment protégés. En quittant après juin 1940 et l'occupation de la France leur base de Wilhemshaven pour cinq bases sur le littoral atlantique français : Brest, Lorient, Saint-Nazaire, La Pallice et Bordeaux, les U-Boote accrurent également considérablement leur rayon d'action.
A ces temps heureux succédèrent bientôt des déconvenues: les Alliés utilisaient mieux le sonar, ils découvrirent ensuite les codes de la machine cryptée Enigma grâce à la reddition d'un équipage inexpérimenté, les progrès du radar rendirent possibles les repérages en surface des submersibles par des avions dont le rayon d'action allait toujours croissant.
Après l'entrée en guerre des Etats-Unis, l'opération "Coup de Cymbale (Paukenschlag) marqua l'apogée des succès des sous-mariniers allemands, qui coulèrent de nombreux convois aux équipages inexpérimentés qui navigaient sans protection au larges des côtes nord-américaines.
Mais avec les premiers revers militaires du Reich, et les avancées des Alliés dans la lutte anti-sousmarine, les Loups gris toujours moins nombreux et aux équipages toujours plus inexpérimentés cédèrent du terrain et coulèrent toujours moins d'unités adverses. Doenitz avait succédé à Erich Raeder à la tête de la Kriegsmarine, mais cela ne permit pas de redresser la situation. Les grands capitaines avaient péri en mer (Prien, Endrass, Schepke) ou avaient été fait prisonniers, et leurs successeurs Rasch, Cremer ou Hardegen se retrouvèrent bientôt acculés dans la mer du Nord, à protéger les navires allemands qui évacuaient le matériel et les populations des territoires de l'Est où l'Armée rouge avançait. Le nouveau sous-marin Walter, que Dönitz avait appelé de ses voeux dès avant la guerre, put rentrer en service en 1945. Ses performances faisaient de lui un sous-marin de nouveau redoutable, mais la capitulation survint alors que les premières unités venaient d'entrer en service.
L'arme sous-marine fut incontestablement la plus dangereuse de la deuxième guerre mondiale: 743 U-Boote furent perdus et 30 000 des 40 000 sous-mariniers qui servirent durant le conflit périrent en mer. Corps d'élite dans une Kriegsmarine déjà élitiste, les sous-mariniers formaient une corporation à part, avec ses codes secrets, ses règles et ses traditions. L'amiral Doenitz, qui avaient été commandant de sous-marin pendant la première Guerre mondiale, veilla à entretenir parmi ses troupes un esprit de camaraderie affranchi d'une trop pesante rigueur hiérarchique: les sous-mariniers ne portaient par exemple pas d'uniforme à bord. Dans son testament, Adolf Hitler remit le pouvoir sur le Reich à Doenitz qui négocia la capitulation avec les Alliés. Il fut condamné par le Tribunal militaire international de Nuremberg à dix ans de prisons qu'il purgea.
La Kriegsmarine produisit plusieurs types de U-Boot suivant les évolutions technologiques :
- Type I
- Type II
- Type V
- Type VII
- Type IX
- Type X
- Type XIV
- Type XVII
- Type XVIII
- Type XXI
- Type XXIII
- Type XXVI
