La théorie du chaos traite des systèmes dynamiques rigoureusement déterministes, mais qui présentent un phénomène fondamental d'instabilité appelé « sensibilité aux conditions initiales » qui, modulant une propriété supplémentaire de récurrence, les rend non prédictibles en pratique sur le « long » terme.
Un système dynamique est dit chaotique si une portion « significative » de son espace des phases présente simultanément les deux caractéristiques suivantes :
La présence de ces deux propriétés entraîne un comportement extrêmement désordonné qualifié à juste titre de « chaotique ». Les systèmes chaotiques s'opposent notamment aux systèmes intégrables de la mécanique classique, qui furent longtemps les symboles d'une régularité toute puissante en physique théorique. La dynamique quasi-périodique d'un système intégrable semblait elle-même trouver son illustration parfaite dans les majestueux mouvements des planètes du système solaire autour du Soleil ; souvenons-nous que Voltaire, qui incita Émilie du Châtelet à entreprendre la traduction des Principia Mathematica de Newton, parlait de Dieu comme du « Grand Horloger »…
Au cours de son histoire, la physique théorique s'était déjà trouvée confrontée à la description de systèmes complexes macroscopiques, comme un volume de gaz ou de liquide, mais la difficulté à décrire de tels systèmes semblait découler du très grand nombre de degrés de liberté internes du système à l'échelle microscopique (atomes, molécules). La mécanique statistique avait dans ce cas permis de rendre compte de façon satisfaisante des propriétés macroscopiques de ces systèmes à l'équilibre. Ce fut donc une grande surprise lorsqu'on s'aperçut à la fin du XIXe siècle qu'une dynamique d'une grande complexité pouvait résulter d'un système simple possédant un très petit nombre de degrés de liberté, pourvu qu'il possède cette propriété de sensibilité aux conditions initiales.
La théorie du chaos s'attache principalement à la description de ces systèmes à petit nombre de degrés de liberté, souvent très simples à définir, mais dont la dynamique nous apparaît comme très désordonnée.
La réponse à cette question est : oui et non.
La théorie du chaos est une véritable théorie scientifique, qui a su trouver de l'ordre caché sous le désordre apparent. Mais ce nouvel ordre est très différent de l'ordre ancien : au déterminisme implacable d'une dynamique intégrable quasi-périodique a succédé une description de nature fondamentalement probabiliste, caractérisée par l'existence d'invariants prenant la forme de mesures de probabilités, d'attracteurs, de dimensions fractales… Toutes les sciences, y compris sociales, sont concernées par ce changement de paradigme.