Les Néandertaliens disparaissent il y a environ 29 000 ans, disparition encore en partie inexpliquée et suscitant de nombreuses hypothèses, faisant parfois intervenir des modèles mathématiques ou économiques plus ou moins insolites. Les données archéologiques montrent qu'il n'y a pas eu une extinction massive mais au contraire une disparition progressive.
La disparition des Néandertaliens coïncide apparemment avec l'arrivée de groupes d'Hommes anatomiquement modernes ayant quitté le Proche-Orient pour l'Europe, il y a environ 40 000 ans, sans doute à la faveur d'un épisode climatique tempéré de la dernière glaciation. Ces hommes modernes, parfois appelés « Hommes de Cro-Magnon », sont porteurs d'une nouvelle culture matérielle, appelée Aurignacien et caractérisée par la généralisation du débitage laminaire et lamellaire, l'utilisation du percuteur tendre pour ces débitages, la fabrication d'outils en matières dures animales (notamment des pointes de sagaies en os). Les hommes de l'Aurignacien sont également les auteurs des plus anciennes œuvres de l'art pariétal et mobilier d'Europe.
Les Hommes de Néandertal et les Hommes modernes ont probablement cohabité ainsi pendant quelques millénaires, quoiqu'aucune trace directe d'interaction n'ait été découverte.
On ne cite même plus l'explication suivant laquelle l'homme moderne serait tout simplement le descendant de l'homme de Néandertal. Cette théorie était pourtant, voici moins d'un demi-siècle, défendue encore avec passion par Camille Arambourg, membre de l'Institut et directeur de l'Institut de paléontologie humaine de Paris, aux yeux duquel ceux qui ne reconnaissaient pas l'évidence de cette solution obéissaient manifestement à d'obscures considérations métaphysiques : « La naïve et pitoyable vanité humaine se refuse à admettre que le "roi de la création" ait pour ancêtre le Néanderthalien, si proche encore de l'animalité, en lequel on voudrait s'efforcer de voir un rameau "éteint" ou même "dégénéré", sans rapport avec l'Homo sapiens. »
D'autres hypothèses ont encore quelques partisans :
L'ensemble de ces hypothèses est peu probable à l'échelle d'une population continentale, et difficiles à concilier avec la longue histoire des Néandertaliens (près de 200 000 ans) et leurs capacités d'adaptation à des conditions climatiques et environnementales variées et fluctuantes.
Épidémie liée à une infection virale (fièvre hémorragique) ou bactérienne (équivalent de lèpre, de peste…), ou parasitaire (paludisme) ayant décimé préférentiellement la population néandertalienne : cette hypothèse est plausible dans la mesure où les groupes d'hommes modernes ont pu apporter des maladies épidémiques d'origine tropicale auxquelles ils étaient résistants, mais le temps de cohabitation (12000 ans environ) semble trop long pour une épidémie.
Disparition progressive de la population néandertalienne liée à la possibilité d'accouplements féconds mais donnant des hybrides stériles, au moins chez les Néandertaliennes : hypothèse émise par le paléontologue finlandais Björn Kurtén, difficile à tester.
Disparition des Néandertaliens liée à l'arrivée des hommes modernes et à la compétition territoriale pour l'exploitation des ressources, voire leur élimination physique par les hommes modernes, par conflits violents sur les zones de contact et réduction des territoires néandertaliens : l'hypothèse s'appuie en particulier sur la concordance des périodes d'expansion d’Homo sapiens avec cette disparition. Elle est contestée du fait de l'absence de traces de morts violentes ou de traces de cohabitation prolongée sur un même territoire, ou bien en avançant que les deux groupes ne devaient pas occuper l'ensemble du territoire européen et que les Néandertaliens avaient une meilleure connaissance de ce territoire et de ses ressources que les nouveaux arrivants.
Hypothèse d'un héritage génétique transmis partiellement à Homo sapiens : la dissolution de la population néandertalienne dans la population Homo sapiens par accouplement fécond est l'une des hypothèses envisagées pour expliquer sa disparition. Un squelette d'enfant découvert au Portugal a été présenté comme un hybride Néandertal/sapiens, impliquant que le patrimoine génétique des Néandertaliens ait pu contribuer au patrimoine génétique de l'homme actuel. Cette hypothèse est fortement discutée en raison des difficultés à démontrer la véracité de l'hybridation chez un individu juvénile, alors que la variabilité de la population concernée est mal connue. Par ailleurs, les études génétiques consacrées à ce sujet aboutissent à des résultats contradictoires : pour certains auteurs, il n'y a aucun indice de contribution des Néandertaliens à l'ADN mitochondrial des premiers hommes modernes tandis que pour d'autres les gènes d'Homo sapiens ne seraient pas exclusivement d'origine africaine et le génome néandertalien pourrait représenter 5 % de celui des humains modernes.
Une étude de l'université de Chicago a permis d'identifier un gène lié à la croissance du cerveau qui aurait été transmis à l'homme par les néandertaliens et qui est présent chez 70 % des humains actuels.
Une équipe de l'Institut Max Planck à Leipzig, sous la direction de Svante Pääbo, a procédé au séquençage d'ADN nucléaire d'ossements fossiles de Néandertaliens. La comparaison avec les mêmes séquences d'humains modernes montre que 1 à 4 % de l'ADN est commun aux Néandertaliens et aux Homo sapiens eurasiatiques mais pas africains ; ces croisements auraient pu survenir il y a 150 000 à 80 000 ans au Moyen-Orient. L'une des hypothèses des auteurs, dans leur étude publiée en mai 2010, est que les Néandertaliens ont contribué au génome des populations d'humains modernes non africaines mais d'autres hypothèses expliquent également convenablement les données recueillies (cf. supra). Le décryptage de l'ADN d'un Homo sapiens archaïque (vers - 100 000 ans), en cours, permettra peut être de trancher. En 2010, le séquençage à 63 % du génome de Néandertal a permis de distinguer 20 régions génétiques spécifiques à l'homme moderne.