La complexité irréductible est la thèse selon laquelle certains systèmes biologiques sont trop complexes pour être le résultat de l'évolution de précurseurs plus simples ou « moins complets », du fait de mutations au hasard et de la sélection naturelle. Le terme a été inventé et défini en 1996 par le professeur de biochimie Michael Behe, un système de complexité irréductible étant, « composé de plusieurs parties ajustées et interagissantes, qui contribuent chacune à sa fonction élémentaire, alors que l'absence d'une quelconque de ces parties empêche le fonctionnement du système ». Les exemples cités par Behe, la coagulation en cascade, le moteur (ou corps basal) des flagelles cellulaires et le système immunitaire, ne pourraient donc être le résultat de l'évolution naturelle : tout système précurseur au système complet ne fonctionnerait pas, et ne constituerait donc pas un avantage sélectif.
De façon plus générale, cet argument est utilisé par les partisans du créationnisme et du dessein intelligent pour réfuter la théorie scientifique actuelle de l'évolution et prouver l'implication d'une cause divine ou intelligente dans la création de la vie. Ces thèses sont anciennes et reprennent l'argument téléologique de l'analogie du grand horloger. En dehors des systèmes biochimiques présentés par Behe, un exemple très couramment avancé de système trop complexe pour être le résultat de l'évolution est l'œil.
La thèse de la complexité irréductible est rejetée par une très large majorité de la communauté scientifique ; elle est souvent considérée comme pseudoscientifique. Des travaux scientifiques ont montré que les exemples présentés par Behe ne répondaient pas à sa définition, et des précurseurs ont été identifiés pour certains d'entre eux. Les critiques considèrent que la thèse de la complexité irréductible est fondée sur une incompréhension du fonctionnement de ces systèmes biochimiques, et une méconnaissance des mécanismes de l'évolution (en particulier l'exaptation). Elle est également considérée comme un excellent exemple d'argumentum ad ignorandam (argument d'ignorance, sophisme par lequel on déclare fausse une proposition qui n'a pas été démontrée vraie).
Bien qu'elle aie été rejetée en tant que théorie scientifique lors du procès de Dover, à l'issue duquel la cour a jugé que « La thèse du Professeur Behe sur la complexité irréductible a été réfutée par des articles scientifiques publiés dans des revues à comité de lecture, et a été rejetée par la communauté scientifique dans son ensemble » procès de Dover (p. 64), le concept de complexité irréductible reste un argument courant pour les partisans du dessein intelligent et d'autres créationnistes.
L'argument de complexité irréductible est un descendant de la preuve téléologique de l'existence de Dieu. C'est l'argument fameux du grand horloger que la complexité de la nature implique l'existence de Dieu de la même façon que l'existence d'une horloge implique celle d'un horloger.
Cet argument a une longue histoire qui remonte au moins au Ier siècle av. J.-C. avec De natura deorum (ii.34) de Cicéron : « Un cadran solaire ou une clepsydre donnent l'heure du fait de leur conception et non par hasard. Comment pouvez-vous donc imaginer que l'univers, comme un tout, est sans but et sans intelligence, quand il contient tout, y compris ces objets et leurs artisans ?»
Le déiste Voltaire le reprend dans un distique célèbre de sa satire Les cabales (1772) :
« L'univers m'embarrasse, et je ne puis songer
Que cette horloge existe et n'ait point d'horloger. »
Citation à mettre en perspective avec ce propos de jeunesse dans le Traité de métaphysique (1734) :
« Ainsi, quand je vois les ressorts du corps humain, je conclus qu’un être intelligent a arrangé ces organes pour être reçus et nourris neuf mois dans la matrice; que les yeux sont donnés pour voir, les mains pour prendre, etc. Mais de ce seul argument je ne peux conclure autre chose, sinon qu’il est probable qu’un être intelligent et supérieur a préparé et façonné la matière avec habileté; mais je ne peux conclure de cela seul que cet être ait fait la matière avec rien, et qu’il soit infini en tout sens. J’ai beau chercher dans mon esprit la connexion de ces idées: « Il est probable que je suis l’ouvrage d’un être plus puissant que moi, donc cet être existe de toute éternité, donc il a créé tout, donc il est infini, etc. ». Je ne vois pas la chaîne qui mène droit à cette conclusion ; je vois seulement qu’il y a quelque chose de plus puissant que moi, et rien de plus. »
Les implications de la complexité des organismes vivants et des interactions entre leurs éléments ont été discutées par différents auteurs et savants. Au début du XVIIe siècle, Nicolas Malebranche utilise cette idée en faveur de la préformation (théorie qui voit l'embryon comme un être vivant « miniature » où tous les organes sont déjà présents), plutôt que de l'épigénèse (la complexité apparaît au fur et à mesure du développement). Dans une application différente, au début du XIXe siècle Georges Cuvier utilisa le concept de « corrélation des parties » dans la reconstitution de l'anatomie d'animaux à partir de restes épars.
Dans le monde anglo-saxon, l'argument du grand horloger est développé et popularisé par le révérend William Paley dans sa Théologie naturelle (1802). Prenant l'analogie d'une montre trouvée par hasard, il conclut que la structure complexe des êtres vivants et l'adaptation remarquable des plantes et des animaux sont le fait d'un concepteur intelligent. Le monde est donc une création de Dieu, et montre la nature de ce créateur. Dieu a conçu avec attention « même le plus humble et le plus insignifiant des organismes ».
Charles Darwin rejette la preuve téléologique en proposant une autre explication à la complexité et la diversité du vivant : l'évolution par la sélection naturelle. Sans le nommer ainsi, il identifie l'argument de la complexité irréductible comme un moyen possible de réfuter les résultats de sa théorie de l'évolution. Dans L'Origine des espèces, il écrit : « Si on pouvait démontrer qu'il existe un organe complexe, qui ne pourrait avoir été formé par de nombreuses petites modifications successives, ma théorie s'effondrerait complètement. Mais je n'en trouve aucun exemple ».
Le généticien Hermann Muller expose, en 1939, un concept similaire à la complexité irréductible, mais pas de façon problématique vis-à-vis de l'évolution. Au contraire, il présente l'« intrication » des éléments biologiques comme une conséquence attendue de l'évolution, qui conduit à l'irréversibilité de certains changements évolutifs : Ayant été ainsi entretissée au sein de la trame la plus intime de l'organisme, la caractéristique précédemment nouvelle ne peut plus être retirée impunément, et peut être devenue nécessaire et vitale.
En 1952, le biologiste Ludwig von Bertalanffy propose un concept précurseur de la complexité irréductible : les systèmes organiques complexes doivent être étudiés en tant que systèmes complets irréductibles pour pouvoir comprendre leur fonctionnement. Il étend ses travaux sur la complexité biologique à une théorie générale des systèmes. Après la découverte de la structure de l'ADN par James Watson et Francis Crick au début des années 1950, la théorie générale des systèmes perd la plupart de ses adhérents en sciences physiques et biologie. Ce triomphe du point de vue mécaniste en biochimie est exposé dans Le Hasard et la Nécessité de Jacques Monod. Cependant, la théorie des systèmes reste utilisée dans les sciences sociales.
Dans son livre Darwin's Black Box, le biochimiste Michael Behe, reprenant la thèse de William Paley, définit et applique le terme « complexité irréductible » à certains systèmes complexes en biologie cellulaire. Il cherche à montrer que les mécanismes de l'évolution ne peuvent expliquer le développement de ces systèmes « irréductiblement complexes ».
Le terme « complexité irréductible » a été défini par Behe :
« Un système composé de plusieurs parties en interaction, qui contribuent chacune à sa fonction élémentaire, et dont l'absence d'une quelconque de ces parties empêche le fonctionnement du système Behe (Darwin's Black Box, p. 9). »
Behe a donné une seconde définition (« définition évolutionniste ») :
« Une lignée évolutive est de complexité irréductible si elle contient au moins une étape insélectionnable (c'est-à-dire au moins une mutation nécessaire mais insélectionnable – au sens de la sélection naturelle). Le degré de complexité irréductible est le nombre d'étapes insélectionnables dans la lignée. »
Le partisan du dessein intelligent William Dembski donne cette définition :
« Un système effectuant une fonction basique donnée est de complexité irréductible, s'il comprend un ensemble d'éléments individualisés de façon non-arbitraire, ajustés et interagissant mutuellement, tel que chaque élément de l'ensemble est indispensable à la fonction basique, et donc original. L'ensemble de ces éléments indispensables constitue le noyau irréductible du système. »
Les partisans du dessein intelligent utilisent ce concept et les exemples de systèmes de « complexité irréductible », pour en conclure que le monde vivant est mieux expliqué par l'intervention d'une cause intelligente que par les mécanismes de la théorie de l'évolution.
Selon la théorie de l'évolution, les variations génétiques adviennent au hasard. L'environnement « sélectionne » les variations les mieux adaptées, qui sont ensuite transmises aux générations suivantes. Les changements au cours du temps se font du fait de l'action graduelle des forces naturelles, de façon parfois lente ou parfois rapide (voir équilibre ponctué). Ce processus permet l'adaptation de structures complexes depuis des formes plus simples, ou de convertir des structures complexes d'une fonction à une autre.
Behe et la plupart des partisans du dessein intelligent ne remettent pas en cause tout le rôle des mécanismes évolutifs dans le dévoppement de la vie organique à l'échelle de la microévolution (comme les variations de longueur des becs des pinsons de Darwin). Mais ils jugent qu'ils ne peuvent rendre compte de la complexité irréductible, car aucun des éléments d'un système irréductible ne serait fonctionnel ou avantageux avant que le système complet ne soit en place : « un système de complexité irréductible ne peut pas être produit directement (c'est-à-dire, par une amélioration continue de la fonction initiale, qui garde le même mécanisme) par de petites modifications successives d'un système précurseur, car tout précurseur d'un système de complexité irréductible auquel il manque un élément est par définition non-fonctionnel. » (Behe)
La complexité irréductible n'est donc pas un argument que l'évolution n'existe pas, mais plutôt qu'elle est « incomplète ». Dans le dernier chapitre de Darwin's Black Box, Behe conclut que la complexité irréductible est une preuve du dessein intelligent.