Les groupes sanguins érythrocytaires sont définis grâce aux différences observées entre les individus à la surface des érythrocytes. Il s’agit donc de caractères allotypiques, c'est-à-dire différents d’un individu à l’autre à l’intérieur d’une même espèce.
Ces différences portent sur la présence, l’absence ou l’agencement spatial à la surface des érythrocytes de sucres ou oses (systèmes ABO, P…), ou de protéines (systèmes Rh, Kell…). Autant de différences qui peuvent constituer un épitope antigénique pour quelqu’un qui ne le possède pas.
Ces caractères sont génétiquement transmis selon les lois de Mendel.
Caractérisé par deux sucres possibles à la surface de l’érythrocyte, soit un galactose (antigène B) soit une N-acétyl-galactosamine (antigène A). Ces sucres sont fixés sur une substance de base, appelée substance H, elle-même osidique. La présence de chacun de ces sucres est due à une enzyme spécifique codée par un gène lui-même spécifique : une variante A pour l’antigène A, B pour l’antigène B. La présence d’une enzyme inactive, due à un codon stop, pour ce gène ne permet pas l’ajout d’un sucre à cette substance de base H, qui reste donc en l’état. Cette enzyme inefficace, sans activité a été appelée « O » (O venant de ohne, sans, en allemand), et a donné le groupe O.
Ainsi le système ABO est caractérisé par un gène dont il existe trois allèles (variantes du gène) A, B, et O.
Ce gène est porté par un autosome (par opposition aux chromosomes sexuels X ou Y). Tout individu possède donc deux copies du gène, l’un venant de son père et l’autre de sa mère, à un même locus, c’est-à-dire à un emplacement défini sur le chromosome. En l’occurrence, pour le système ABO, sur le chromosome 9.
Lorsque le sujet possède à la fois l'allèle A et le B, les deux sucres se trouvent alors sur l’érythrocyte et le sujet est de groupe AB. Lorsqu’il possède 2 allèles O, il sera de groupe O, s’il possède un ou deux A et pas l'allèle B, il sera A, s’il possède un ou deux allèles B et pas le A, il sera B.
Ainsi, un couple de parents, dont la mère est génétiquement A / O, donc de groupe A, et le père B / O, donc de groupe B pourra avoir des enfants de quatre groupes différents. Si chacun des parents transmet son allèle O, l’enfant sera génétiquement O / O, donc de groupe O. Si le père transmet l'allèle O et la mère le A, l’enfant sera A / O, donc de groupe A. Si le père transmet l'allèle B et la mère le O, l’enfant sera B / O, donc de groupe B. Si la mère transmet l'allèle A et le père celui B, l’enfant sera alors A / B, donc de groupe AB.
Il s’agit là d’un système de protéines. Deux gènes sont situés à des locus très proches l’un de l’autre sur le chromosome n°1, et sont donc transmis ensemble d’une génération à la suivante. Ces deux gènes résultent d’une duplication d’un gène originel, et synthétisent deux protéines très proches ayant la même structure et la même fonction ; si l’une est absente, l’autre la remplace, ce qui peut expliquer la grande quantité de protéines D chez les sujets ayant une délétion au locus CE (donc de phénotype D--, soit RH:1,-2,-3,-4,-5 en nomenclature internationale), ou les réactivités différentes des hématies selon le nombre de chacun des épitopes présents, lors d'une recherche d'anticorps irréguliers. Au premier locus, locus D, se trouve soit l’allèle D, qui synthétise la protéine Rhésus D définie par la présence de l’antigène D ou RH1, soit un emplacement vide dénommé d, qui ne synthétise rien. Au second locus, locus CE, se trouve un gène qui synthétise une seconde protéine qui ne porte pas l'épitope D. Mais cette seconde protéine présente deux autres épitopes principaux. L’un de ces épitopes définit les antigènes C ou c, le second les antigènes E ou e. La même protéine peut donc avoir quatre combinaisons possibles d'épitopes : ce, Ce, cE, CE.
Ainsi, en combinant l’ensemble de ces possibilités, nous obtenons 8 agencements possibles, ou haplotypes, sur un même chromosome. Quatre de ces agencements comportent le gène D qui définira un sujet Rhésus positif standard. Il s’agit des haplotypes Dce, DCe, DcE, DCE. Quatre de ces agencements ne comportent pas le gène D. Il s’agit des haplotypes dce, dCe, dcE, dCE.
Le même raisonnement que pour les gènes du système ABO s’applique aux haplotypes du système Rhésus. Ainsi deux parents Rhésus positif de génotype D / d, donc hétérozygotes au locus D, pourront avoir un enfant rhésus négatif de génotype d / d.
L'ensemble des autres systèmes de groupes sanguins suit les mêmes lois génétiques. Cependant des particularités spécifiques à chacun des systèmes existent. Système Lewis par exemple, la synthèse de ses antigènes dépendant de deux systèmes génétiques (Lewis, avec ses allèles Le, le et système H avec ses allèles H, h), ou les systèmes Xg ou Kx dont les gènes sont situés sur le chromosome X, et non sur un chromosome autosomal
Dans chaque système de groupe sanguin nous pouvons être confrontés à des anomalies apparentes de transmission.
Ainsi, dans le système ABO, nous savons que l’antigène A résulte d’un sucre (ose) fixé par une enzyme sur une substance de base, également osidique, dite substance H. Cette même substance H résulte de l’action d’un gène H, que des très rares sujets ne possèdent pas. Ces sujets sont de génotype h/h, possédant en double dose l’allèle inactif h de H. Ces sujets sont dits de groupe « Bombay », du nom de la localité où cette particularité a été décrite. Ces sujets n’ont donc pas de substance H sur leurs globules rouges, et ont un anticorps anti-H dans leur plasma, ce qui interdit ou rend dangereuse toute transfusion non isogroupe (non « Bombay »). N’ayant pas cette substance H, même si ces sujets « Bombay » possèdent le gène A ou le gène B, les substances A ou B ne pourront être fabriquées, et ces sujets seront en apparence de groupe O. Leurs enfants héritant de ce parent d’un gène h et d’un gène A ou B, et de l’autre parent d’un gène normal H (dans le système Hh) et d’un gène O par exemple (dans le système ABO) pourront à nouveau exprimer le gène A ou B qui leur a été transmis par le premier parent et seront de groupe A ou B normal.
Le même problème peut se poser dans tout autre système où il existe un allèle amorphe, une délétion, une mutation ou un système inhibiteur. Il existe ainsi un rarissime haplotype rhnull dans le système Rhésus. Cet haplotype, qui ne synthétise aucune des deux protéines RH, ni RHD, ni RHCE, est noté RH:---. Supposons un père déterminé comme D+, C+, E-, c-, e+, c'est-à-dire possédant les antigènes D, C, et e, et ne possédant pas les antigènes c et E. Nous en déduisons le génotype vraisemblable de ce père comme étant DCe / DCe, ou DCe / dCe. Or, ce père, uni à une femme de génotype dce / dce, pourra avoir un enfant D-, C-, E-, c+, e+, c'est-à-dire ne possédant pas l’antigène attendu C. Cet enfant sera considéré à tort comme de génotype dce/dce. Nous constatons alors une apparente exclusion de paternité, l'enfant étant supposé avoir reçu un haplotype dce qui n'existe pas chez son père. Or ceci peut être parfaitement expliqué par le génotype DCe / --- de ce père, qui a transmis son haplotype « --- » à son enfant dont le génotype réel est dce / --- .
En conclusion, une anomalie apparente de transmission d’un groupe sanguin ne permet en aucune façon à elle seule de conclure à une exclusion de paternité ou de maternité. Une telle conclusion doit s’appuyer sur plusieurs systèmes, et maintenant sur la biologie moléculaire (analyse directe au niveau des chromosomes).