Dans le formalisme de la mécanique quantique, une opération de mesure (c'est-à-dire obtenir la valeur ou un intervalle de valeurs d'un paramètre physique, ou plus généralement une information sur un système physique) est représentée par ce qu'il est convenu d'appeler une observable.
Une observable est formalisée mathématiquement par un opérateur agissant sur les vecteurs d'un espace de Hilbert (chaque état quantique étant représenté par un vecteur dans cet espace).
Le sens de cet opérateur observable est de donner la possibilité de décomposer un état quantique quelconque (donc un vecteur quelconque de l'espace de Hilbert) en une combinaison linéaire d'états propres, chacun de ces états étant un état possible résultant de l'opération de mesure.
Soient les vecteurs propres de (éventuellement en nombre infini selon l'observable).
Ce coefficient donne la probabilité pour qu'un état propre soit le résultat de la mesure d'un état quantique :
L'ensemble des vecteurs propres
n'est autre que l'ensemble des résultats possibles de l'opération de mesure formalisée par l'observable.
Les états qui s'expriment avant la mesure sous la forme simple sont appelés état propre ou état pur. En règle générale, un état quantique n'est pas pur et sont des états superposés, pour cette observable.
Un état peut être pur selon une observable donnée, et être superposé selon une autre observable. C'est d'ailleurs la raison fondamentale du principe d'incertitude d'Heisenberg : un état quantique qui est pur pour une observable (et qui possède donc une valeur précise pour cette observable), peut avoir tout un ensemble de valeurs possibles pour une autre observable.
Après l'opération de mesure, le système physique mesuré sera dans l'un des états propres définis par l'observable (postulat d'effondrement de la fonction d'onde)
Cet opérateur doit posséder les propriétés suivantes pour pouvoir être qualifié d'observable :