Le quotient de Rayleigh est un nombre réel caractérisant l'effet d'une matrice symétrique (respectivement hermitienne) sur un vecteur, et offrant les deux propriétés fondamentales suivantes :
Ces deux propriétés peuvent servir à déterminer numériquement les Valeur propre, vecteur propre et espace propre d'un opérateur hermitien ou symétrique.
Le quotient de Rayleigh, dont la propriété d'extremum peut être reliée au principe du minimum de l'énergie potentielle en mécanique, a été étudié pour la première fois par Rayleigh (1877). Walter Ritz reprit l'idée en 1909 pour en faire la base d’une méthode d’approximation variationnelle.
En mathématiques, pour une matrice hermitienne A à coefficients complexes et un vecteur x non nul, on appelle quotient de Rayleigh R(A,x) le scalaire :
où x * désigne le vecteur adjoint de x, c'est-à-dire le conjugué du vecteur transposé.
Pour des matrices et des vecteurs à coefficients réels, le caractère hermitien se traduit par la caractère symétrique, et il faut substituer à la matrice adjointe x * la transposée familière x'. Notez que
Rappelons également que les valeurs propres d'une matrice symétrique (respectivement hermitienne) sont toutes réelles. On peut montrer que, sous ces conditions,
La Théorie de Sturm-Liouville a trait à l’action de l’application linéaire
sur l’espace préhilbertien des fonctions y(x) vérifiant des conditions aux limites particulières en x=a et b, muni du produit scalaire : .
Dans ce cas, le quotient de Rayleigh est
On le présente parfois sous une forme équivalente, obtenue en découpant l'intégrale du numérateur et en intégrant par parties :
Pour déterminer une solution approchée de l’équation
vérifiant les conditions aux limites, on choisit un certain nombre de fonctions u1,u2,...,up vérifiant elles-mêmes les conditions aux limites, et on cherche la solution approchée comme une combinaison linéaire des p modes retenus : . Les coefficients inconnus αi s’obtiennent en écrivant la stationnarité du quotient de Rayleigh : , qui détermine p équations linéaires d'inconnues (αi)i = 1...p
On peut factoriser une matrice de covariance Σ sous la forme A'A. Les valeurs propres d'une telle matrice sont positives, car :
Les vecteurs propres sont deux à deux orthogonaux :
Disposant donc d'une base, on peut exprimer le quotient de Rayleigh en fonction des valeurs propres en décomposant un vecteur quelconque x sur cette base des vecteurs propres :
relation qui, de par l’orthogonalité des vecteurs propres, devient :
Si un vecteur x rend maximal le scalaire ρ, alors tout vecteur k.x (car ) produira également ce maximum : il suffit donc de rechercher le vecteur propre de norme égale à 1 ; on peut donc imposer .
Par la relation ci-dessus, il apparaît que la recherche d'un vecteur propre se ramène à la recherche d'un extremum de Lagrange, à savoir sous la contrainte .
Puisque toutes les valeurs propres sont positives, le problème est convexe et le maximum est atteint à la frontière du domaine, à savoir quand α1 = 1 et (en supposant que les valeurs propres soit numérotées par ordre de valeur décroissante).
On aboutit au même résultat par la méthode des multiplicateur de Lagrange. Le problème consiste alors à déterminer les points critiques de la fonction
c’est-à-dire trouver les points critiques de
où λ est un multiplicateur de Lagrange. Les points stationnaires de surviennent pour
et
Par conséquent, les vecteurs propres of Σ ne sont autre que les points critiques du quotient de Rayleigh et les valeurs propres correspondantes sont les valeurs rendant ρ(x) stationnaire.
Cette propriété remarquable est à la base de l’analyse en composantes principales et des corrélations canoniques.