Une illusion d'optique est une illusion qui trompe le système visuel humain (depuis l'œil jusqu'au cerveau) et aboutit à une perception déformée de la réalité. Les illusions d'optiques peuvent survenir naturellement ou être créées par des astuces visuelles spécifiques qui permettent de mettre en évidence les principes de fonctionnement du système visuel humain.
L'illusion résulte d'une mauvaise analyse par le système visuel des informations qui lui parviennent. Cette erreur d'analyse peut donc entraîner la perception d'un objet qui n'est pas présent, à l'inverse nous rendre « aveugle » à un objet pourtant présent, nous donner une image faussée de la réalité, etc.
Ainsi, sur l'image de droite, les cases A et B du dessin semblent être peintes de deux teintes de gris différentes alors qu'en réalité, si l'on mesure la luminance sur la photographie, les deux gris sont parfaitement identiques. Dans ce cas précis, cet exemple met en évidence la propension du système visuel à compenser les variations lentes de luminosité ou à percevoir les teintes et les couleurs relativement à leur environnement.
A contrario, les mirages ne sont pas à proprement parler des illusions. Il ne s'agit pas d'une fausse interprétation mentale d'une réalité mais de la perception d'un phénomène qui existe bel et bien : Le tremblement de l'air ou les reflets d'eau dus à la chaleur sont des réalités optiques et non des illusions, d'ailleurs on peut en garder la trace photographique. La seule illusion consisterait à interpréter ces images perçues comme les images troubles d'un lac ou d'une mer.
Les illusions cognitives sont plus intéressantes et bien connues. Au lieu de démontrer une cause physiologique elles agissent avec plusieurs niveaux de l'interprétation visuelle, les hypothèses pré-formatées ou « connaissances » sont emmêlées. Les illusions cognitives sont communément divisées en illusions ambiguës, illusions distordues, illusions paradoxales ou illusions fictives. Elles exploitent souvent les « hypothèses » formées par le système visuel au cours des premières étapes du traitement visuel.
Les illusions ambiguës sont des images ou objets qui subissent des changements significatifs d'apparence. La perception alternera entre les interprétations qui toutes seront perçues comme valides mais ne confirment pas une seule représentation. Le cube de Necker en est un exemple bien connu.
Les illusions distordantes sont les plus communes, ces illusions offrent des distorsions de taille, largeur ou courbure. Elles sont faciles à découvrir et sont facilement repérables. Beaucoup sont des illusions physiologiques, comme l'illusion du Cafe wall qui exploite les premières étapes du système visuel à propos des bords. D'autres distorsions, comme les illusions de lignes convergentes, sont plus difficiles à assimiler à des illusions physiologiques ou cognitives. Toutes les images qui présentent des perspectives crues sont bien des illusions. Les jugements visuels comme la taille sont contrôlés par la perspective ou d'autres effets de profondeurs et peuvent facilement être mal disposés.
Les illusions paradoxales concernent les objets impossibles, comme le triangle de Penrose ou des escaliers impossibles, comme dans les travaux de M. C. Escher. Le triangle est une illusion dépendant d'une mauvaise interprétation cognitive selon laquelle les arêtes adjacentes doivent se joindre.
Les illusions fictives permettent la perception d'objets qui ne sont réellement pas visibles sauf pour son observateur, telles que celles induites par la schizophrénie ou les drogues hallucinogènes.