Dès 1934 la filiale allemande d'IBM, Dehomag (pour « DEutsche HOllerith MAschinen Gesellschaft ») fournit au régime nazi des machines mécanographiques de poinçonnage de cartes perforées qui servent au réarmement, à la gestion de la force de travail des prisonniers politiques et aux nombreux recensements de la population allemande dès 1933, ce qui fit de Dehomag la filière d'IBM la plus profitable à la fin des années 1930. En parallèle, ces mêmes machines servirent au décompte de la population juive dans les ghettos et les camps de concentration durant la Seconde Guerre mondiale.
Ce sont aussi ces recensements efficaces, contenant des données ethniques et religieuses, qui permirent aux nazis de se saisir rapidement et presque totalement des populations de Juifs et de Roms en Allemagne et, avec une efficacité plus variable, dans les autres pays sous domination allemande.
Edwin Black, dans son livre intitulé IBM et l'holocauste publié d'abord en anglais en 2001 puis en français la même année, démontre que le système informatique vendu par la corporation IBM (surtout la machine Hollerith) et les cartes perforées imprimées aux États-Unis expliquent en grande partie l'efficacité du recensement des Juifs et des Roms sous le Troisième Reich ce qui donna à ces machines IBM, ainsi qu'aux experts qui les faisaient fonctionner, un rôle essentiel dans la Shoah.
Parmi les différents éléments de la démonstration figure l'écart significatif entre la mortalité des Juifs de France et de Hollande, 25 % contre 73 % : pour la France on observe une différence significative entre le nombre de Juifs français effectivement déportés, environ 85 000, et le quota initial fixé à 100 000, sur un total situé entre 300 000 et 350 000, avec un effet inverse en Hollande. En effet, René Carmille, chef du service national de statistiques, et en fait un résistant, manipula les fiches des machines Hollerith de façon à les rendre inutilisables (ce qui le conduisit lui-même à Dachau où il mourut en 1944), alors qu'en Hollande le système, servi par des fonctionnaires zélés tel Jacobus Lambertus Lentz, fonctionna parfaitement et permit même aux nazis de revoir à la hausse le quota initial de Juifs hollandais déportés.
Par ailleurs, ce livre nous apprend aussi que pendant un temps le tatouage inscrit sur le bras des détenus à Auschwitz a correspondu à leur numéro d'identification dans le système informatique.
En tout état de cause, le dirigeant de IBM, Thomas J. Watson, se révéla indifférent à l'aspect éthique des activités d'IBM sous le régime nazi, bien qu'il fût au courant des politiques ouvertement racistes de ce dernier.
Suite à la parution très médiatisée (certains regrettent d'ailleurs cet aspect) du livre de Edwin Black, IBM s'engagea à donner des explications, qui prirent la forme de démentis assez mous s'appuyant sur quelques historiens qui critiquèrent vivement Edwin Black en l'accusant d'avoir recours à des méthodes d'investigation très approximatives, allégations qui furent assez rapidement balayées : les travaux de Edwin Black sur les liens, certes non causaux, de IBM avec la Shoah ainsi que le Porajmos sont maintenant avérés et respectés.