La diffraction limite le pouvoir de résolution des instruments optiques : un objet ponctuel donne une image « floue », appelée tache de diffraction. Si deux détails d'un objet sont trop proches, les taches de diffractions se chevauchent et il devient impossible d'obtenir des images séparées de ces détails.
Pour un instrument optique de diamètre D observant à une longueur d'onde λ, le pouvoir de résolution maximal, exprimé en radians, est
θ≈1.2λ/D.
On retiendra que
- pour l'œil en vision diurne, le pouvoir de résolution maximum est d'environ 0,5 minute d'arc pour une pupille dilatée à 5 mm de diamètre, soit 1 millimètre pour un objet ou une image placé à 6 mètres ou 1/6.000 radian. Cette valeur est très optimiste pour les usages courants, qui correspondent plutôt à 1/3.000 ou 1/1.500 radian.
- pour un télescope de 10 mètres de diamètre, le pouvoir de résolution théorique est d'environ 15 millisecondes d'arc dans la bande visible du spectre, mais il ne peut être atteint en raison de la turbulence atmosphérique qui « floute » les images.
- pour un microscope optique de 1 cm de diamètre, le pouvoir de résolution théorique est d'environ 15 secondes d'arc, soit 0,5 micromètres pour un échantillon situé à 1 cm de l'objectif.
Afin d'obtenir une meilleure résolution, deux possibilités sont exploitées :
- observer avec des longueurs d'ondes plus petites : c'est le cas du microscope électronique qui utilise des électrons de très faible longueur d'onde ;
- utiliser une optique de plus grand diamètre : c'est le cas en astronomie avec la course aux grands télescopes. Une variante est d'utiliser l'interférométrie entre des télescopes distants.