Matrice de variance-covariance

Restez toujours informé : suivez-nous sur Google (☆)

Introduction

Une matrice de variance-covariance est une matrice carrée caractérisant les interactions (linéaires) entre p variables aléatoires $X_{1}, \dots, X_{p}$ .

Définition

La matrice de variance-covariance (ou simplement matrice de covariance) d'un vecteur de p variables aléatoires $X = (X_{1} ⋮ X_{p})$ dont chacune a une variance (finie) est la matrice carrée dont le terme générique est donné par:

a_{i, j} = cov (X_{i}, X_{j})

La matrice de variance-covariance, notée parfois $Σ$ , est donc définie comme:

Définition — $Σ_{X} \equiv var (X) \equiv E ((X - E (X)) (X - E (X))^{T})$

En développant les termes:

Σ_{X} = var (X) = var (X_{1} ⋮ X_{p}) = (var (X_{1}) cov (X_{1} X_{2}) \dots cov (X_{1} X_{p}) cov (X_{1} X_{2}) ⋱ \dots ⋮ ⋮ ⋮ ⋱ ⋮ cov (X_{1} X_{p}) \dots \dots var (X_{p})) = (σ_{x_{1}}^{2} σ_{x_{1} x_{2}} \dots σ_{x_{1} x_{p}} σ_{x_{1} x_{2}} ⋱ \dots ⋮ ⋮ ⋮ ⋱ ⋮ σ_{x_{1} x_{p}} \dots \dots σ_{x_{p}}^{2})

Propriétés

La matrice est symétrique, étant donné la propriété que $cov (X, Y) = cov (Y, X)$ , .
Ses valeurs propres sont positives ou nulles. Lorsqu'il n'existe aucune relation affine presque sûre entre les composantes du vecteur aléatoire, la matrice $Σ$ est à valeurs propres strictement positives : elle est définie positive.
Les éléments de sa diagonale représentent la variance de chaque variable, étant donné la propriété que: $cov (X, X) = var (X)$
Les éléments en dehors de la diagonale représentent la covariance entre les variables i et j quand $i \neq = j$ .

Estimation

Un estimateur non-biaisé de la matrice de variance-covariance peut être obtenu par:

var (X) = \frac{1}{n - 1} i = 1 \sum n (X_{i} - \overline{X}) (X_{i} - \overline{X})^{T}

où $\overline{X} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}$ est le vecteur des moyennes empiriques.

L'estimateur du maximum de vraisemblance, sous l'hypothèse que X suit une loi normale multidimensionnelle, vaut par contre:

var (X) = \frac{1}{n} i = 1 \sum n (X_{i} - \overline{X}) (X_{i} - \overline{X})^{T} .

Dans le cas où les données sont générées par une loi normale multidimensionnelle, l'estimateur du maximum de vraisemblance suit une loi de Wishart (en)

Utilisation en statistique

La matrice de variance-covariance est un outil essentiel pour l'analyse multivariée:

L'analyse en composantes principales se base sur une décomposition de la matrice de variance-covariance.
L'analyse discriminante l'utilise.

Test sur la matrice de variance-covariance

Le test de sphéricité de Bartlett permet de déterminer si les composantes hors de la diagonale de la matrice sont différentes de zéro, i.e. si il y a une relation entre les différentes variables prises en considération.