La dépression endogamique, ou dépression de consanguinité, désigne la réduction de la valeur sélective d'une population donnée liée à la reproduction entre individus apparentés. La reproduction entre individus étroitement apparentés, ou consanguinité, fait apparaître plus de caractères récessifs délétères. Plus les géniteurs sont apparentés et plus les descendants portent des gènes homozygotes délétères, donnant des individus inaptes. Un autre mécanisme responsable de la réduction de la valeur sélective est la superdominance d'allèles hétérozygotes dans une population à nombreux génotypes homozygotes, même s'ils ne sont pas délétères. En fait on ne sait pas lequel de ces deux mécanismes est le plus important. En général, les populations ayant une forte variation génétique ne soufrent pas de la dépression endogamique, qui est souvent le résultat d'un goulet d'étranglement génétique. Elle semble présente chez la plupart des groupes d'organismes, mais peut-être davantage chez les espèces hermaphrodites, plus particulièrement chez les plantes (qui sont en majorité hermaphrodites).
La sélection naturelle ne peut pas éliminer tous les gènes délétères récessifs d'une population pour plusieurs raisons. D'abord, ces gènes apparaissent constamment par mutations au sein d'une population. Ensuite, dans une population où la consanguinité est fréquente, la plupart des descendants possèdent certains caractères délétères, si bien que peu d'entre eux seront plus aptes que les autres à la survie. Les différents caractères délétères n'affecteront cependant probablement pas de la même manière la reproduction. Un caractère récessif particulièrement désavantageux chez un individu homozygote récessif s'éliminera vraisemblablement de lui-même, limitant ainsi l'expression de son phénotype. Enfin, les allèles récessifs délétères seront « masqués » chez les individus hétérozygotes, et ces derniers ne subiront pas la pression sélective (effet de dominance).
Bien que les cas de forte consanguinité soient rares chez l'homme, il existe certaines formes apparentes de dépression endogamiques. Comme chez les animaux, ces phénomènes tendent à se produire dans des populations rurales, isolées, coupées à un certain point des autres zones de civilisation. Un exemple notoire est constitué par la tribu Vadoma du Zimbabwe occidental, dans laquelle le caractère d'ectrodactylie (présence de deux orteils seulement) paraît lié à un pool génique réduit.
L'introduction de nouveaux gènes d'une population différente peut contrer la dépression endogamique. Des populations différentes ont des caractères délétères différents, et par conséquent la plupart des locus ne seront pas homozygotes chez les descendants. Cela est connu sous le nom d'hétérosis, pratiqué dans les zoos pour prévenir l'homozygotie. Toutefois, mélanger deux populations différentes peut conduire à des caractères polygéniques indésirables de dépression exogamique.
Exemples de taxons non sujets à une dépression endogamique significative malgré leur taille de population effective très faible :
Animaux
Plantes