Fonction de répartition

Restez toujours informé : suivez-nous sur Google (☆)

Introduction

Fonctions de répartition d'une variable discrète, d'une variable diffuse et d'une variable avec atome, mais non discrète.

En théorie des probabilités ou en statistiques, la fonction de répartition d'une variable aléatoire réelle caractérise la loi de probabilité de cette variable aléatoire réelle. La fonction de répartition de la variable aléatoire réelle $\ \scriptstyle X\$ est la fonction $F_{X}$ qui à tout réel $x$ associe

F_{X} (x) = P (X \leq x),

où le membre de droite réprésente la probabilité que la variable aléatoire réelle $\ \scriptstyle X\$ prenne une valeur inférieure ou égale à $\ \scriptstyle x.\$ La probabilité que $\ \scriptstyle X\$ se trouve dans l'intervalle $\ \scriptstyle ]a, b]\$ est donc, si $\ \scriptstyle a<b,\$

P (a < X \leq b) = F_{X} (b) - F_{X} (a) .

La fonction de répartition d'une mesure de probabilité $\ \scriptstyle \mathbb{P}\$ définie sur la tribu borélienne $B (R)$ est la fonction $F$ qui à tout réel $x$ associe

F (x) = P (] - \infty, x]) .

Exemples de calculs de la fonction de répartition

Variables à densité

Fonction de répartition de la loi normale centrée réduite

La fonction de répartition $\scriptstyle \ F_X\$ d'une variable aléatoire $\scriptstyle \ X\$ de densité de probabilité $f_{X}$ est une des primitives (en un sens un peu relaché, voir ci-dessous) de cette densité $f_{X}$ . Plus précisément, $\scriptstyle \ F_X\$ est définie, pour tout nombre réel x, par:

F_{X} (x) = \int_{- \infty}^{x} f_{X} (t) d t .

Toutefois, ce n'est pas, en toute généralité, une primitive au sens strict du terme : on peut seulement affirmer

qu'une fonction de répartition $F_{X}$ est dérivable presque partout (pour la mesure de Lebesgue),
que si la variable $\scriptstyle \ X\$ est à densité, alors la dérivée de $F_{X}$ est presque partout (pour la mesure de Lebesgue) égale à $f_{X} .$

Mais il y a beaucoup de "contre-exemples" : la fonction de répartition de la loi uniforme sur un intervalle, ou encore celle de la loi exponentielle, ne sont pas dérivables sur tout $R,$ et ne sont donc pas, au sens strict, des primitives de densités de probabilités.

Notons que, contrairement aux variables discrètes, une variable à densité X vérifie $\scriptstyle \ P(X=a)=0\$ pour tout nombre réel a : en conséquence, la fonction de répartition des variables à densité est continue en tout point. En fait une variable aléatoire réelle X possède une densité de probabilité si et seulement si sa fonction de répartition est absolument continue sur chaque intervalle borné.

Variables discrètes

Fonction de répartition de la loi uniforme sur {0.2,0.4,0.6,0.8,1} (pour laquelle , en bleu) et de la loi uniforme sur l'intervalle [0,1] (en rouge)

Une variable aléatoire $\ \scriptstyle X\$ est dite discrète s'il existe un ensemble $\ \scriptstyle S\$ fini ou dénombrable tel que

P (X \in S) = 1.

La loi de $\ \scriptstyle X\$ est déterminée sans ambiguité par la donnée de $\scriptstyle (p_s)_{s\in S}\$ , où

p_s = P(X = s).

Si, par exemple, $\ \scriptstyle X\$ est une variable aléatoire réelle, on a

F_{X} (x) = s \in S \sum p_{s} 1_{[s; + \infty [} (x) .

où $\scriptstyle \ 1_E\$ est la fonction indicatrice de l'ensemble E.

Pour les variables aléatoires discrètes les plus courantes (par exemple, les lois uniformes, binomiales, de Poisson) $\ \scriptstyle S\$ est un ensemble bien ordonné : on peut alors numéroter ses éléments de manière croissante, p.e. $s_{1} \leq s_{2} \leq s_{3} \leq \dots$ et numéroter les probabilités $\scriptstyle \ p_s\$ en conséquence, p.e. en posant $p_{i} = p_{s_{i}}, i \geq 1$ . On a alors, si $s_{i} \leq x < s_{i + 1},$

F_{X} (x) = 1 \leq j \leq i \sum p_{j} .

Soit encore, plus généralement :

F_{X} (x) = i \geq 1 \sum q_{i} 1_{[s_{i}, s_{i + 1} [} (x), q_{i} = 1 \leq j \leq i \sum p_{j} .

La fonction de répartition est alors une fonction constante par intervalles et sa représentation graphique est en escalier. Les sauts d'une marche à l'autre de l'escalier se situent aux abscisses $\ \scriptstyle s_i\$ , et l'amplitude du saut d'abscisse $\ \scriptstyle s\$ est $p_{s} = F_{X} (s) - F_{X} (s_{-}) .$ En particulier la fonction de répartition d'une variable discrète X est discontinue exactement aux points s tels que $\ \scriptstyle P(X=s)>0.\$ Voir la section Propriétés de la fonction de répartition pour une démonstration.

Miscellanées

L'escalier de Cantor F est un exemple de fonction de répartition continue mais dont la dérivée est presque partout nulle. Ainsi, les formules précédentes ne valent pas pour l'escalier de Cantor : pour x>0, on n'a pas

F (x) = \int_{- \infty}^{x} F^{'} (t) d t,

car l'escalier de Cantor F prend des valeurs strictement positives sur $\scriptstyle\ ]0, +\infty[,\$ alors que l'intégrale constituant le membre de droite est identiquement nulle. En effet, l'ensemble

est de mesure de Lebesgue nulle. Par ailleurs, la loi de probabilité associée à l'escalier de Cantor est diffuse (sans atome), puisque F est une fonction continue sur $\scriptstyle\ \mathbb{R}.\$ L'escalier de Cantor est en fait un exemple de fonction de répartition continue mais qui n'est pas absolument continue sur chaque intervalle.

Propriétés de la fonction de répartition

Propriétés caractéristiques

Théorème — La fonction de répartition d'une variable aléatoire $\scriptstyle \ X\$ a les propriétés caractéristiques suivantes :

$\scriptstyle \ F_X\$ est croissante ;
Elle est partout continue à droite ;
$lim_{x \to - \infty} F_{X} (x) = 0$ ;
$lim_{x \to + \infty} F_{X} (x) = 1.$

Comme on l'a dit, les points 1 à 4 sont caractéristiques de la fonction de répartition d'une variable aléatoire réelle $\scriptstyle \ X\$ : étant donné une fonction réelle de la variable réelle, notons la $F$ , satisfaisant les points 1 à 4, on peut construire concrètement une variable aléatoire réelle $\scriptstyle \ X\$ ayant $F$ pour fonction de répartition, voir ci-dessous le théorème de la réciproque. Notons que la construction utilisant le théorème de la réciproque sert concrètement à produire, sur ordinateur, des échantillons de taille arbitraire d'une loi de probabilité arbitraire, ce qui est l'ingrédient de base des méthodes de Monte-Carlo.

Autres propriétés

A cause des points 1, 3 et 4, F_X est bornée, plus précisément

\forall x \in R, 0 \leq F_{X} (x) \leq 1.

Comme toute fonction monotone bornée, F_X admet en tout point x une limite à gauche F_X (x_— ) , limite à gauche égale ou non à F_X (x) selon que F_X est continue en x ou non.

La connaissance de la fonction de répartition permet de calculer la probabilité de tout intervalle

$P (X \in] - \infty; x]) = P (X \leq x) = F_{X} (x),$
$P (X \in] x; + \infty [) = P (X > x) = 1 - F_{X} (x),$
$P (X \in] x; y]) = P (x < X \leq y) = F_{X} (y) - F_{X} (x),$
$P (X \in] - \infty; x [) = P (X < x) = F_{X} (x_{-}),$
$P (X \in] x; y [) = P (x < X < y) = F_{X} (y_{-}) - F_{X} (x),$
$P (X \in [x; y [) = P (x \leq X < y) = F_{X} (y_{-}) - F_{X} (x_{-}),$
$P (X \in [x; y]) = P (x \leq X \leq y) = F_{X} (y) - F_{X} (x_{-}),$

$P (X = x) = F_{X} (x) - F_{X} (x_{-})$

On appelle atome de la variable aléatoire X tout réel a pour lequel $P [X = a] > 0$ . Ainsi, en vertu de la dernière propriété de la liste ci-dessus,

Propriété — Les atomes de la variable aléatoire X sont exactement les points de discontinuité de la fonction de répartition.

La fonction de répartition d'une variable aléatoire X est donc continue si et seulement si X n'a aucun atome, i.e. si et seulement si

\forall x \in R, P [X = x] = 0.

On dit alors que la loi de X est diffuse, ou bien sans atome, et, par extension, que la variable aléatoire X elle-même est diffuse ou sans atome. En particulier, les variables aléatoires réelles possédant une densité de probabilité sont diffuses. Il existe cependant des variables aléatoires diffuses mais ne possédant pas pour autant une densité de probabilité, c'est le cas, par exemple, de la variable aléatoire ayant pour fonction de répartition l'escalier de Cantor.

Notons que l'ensemble des points de discontinuité de F_X est fini ou dénombrable, comme c'est le cas pour toute fonction monotone bornée :

Conséquence — L'ensemble S des atomes de la variable aléatoire X est fini ou dénombrable.

Caractérisation de la loi par la fonction de répartition

Théorème — La loi de probabilité d'une variable aléatoire réelle est caractérisée par sa fonction de répartition.

Ou bien encore : si deux variables aléatoires réelles ont même fonction de répartition, alors elles ont même loi (et réciproquement).

En d'autres termes, si deux variables aléatoires réelles, $\scriptstyle \ X\$ et $Y$ , vérifient

\forall x \in R, P (X \leq x) = P (Y \leq x),

alors elles vérifient aussi que pour tout borélien $A$ ,

P (X \in A) = P (Y \in A) .

De plus, elles vérifient que pour toute fonction mesurable $φ$ ,

E [φ (X)] = E [φ (Y)],

dès que l'un des deux termes de l'égalite a un sens.

Théorème de la réciproque

Soit $\ \scriptstyle F\$ une fonction de $\ \scriptstyle \mathbb{R}\$ dans $\ \scriptstyle \mathbb{R}\$ satisfaisant les 4 propriétés caractéristiques. Notons $\ \scriptstyle G\$ la fonction définie pour $\ \scriptstyle \omega \in]0,1[\$ par

G (ω) = in f {x \in R ∣ F (x) \geq ω} .

Alors $\ \scriptstyle G\$ est une variable aléatoire réelle définie sur l'espace probabilisé $\ \scriptstyle \left(\Omega,\mathcal{A},\mathbb{P}\right)\$ où $\ \scriptstyle \left(\Omega,\mathcal{A}\right)=\left(]0,1[,\mathcal{B}(]0,1[)\right)\$ et où $\ \scriptstyle \mathbb{P}\$ désigne la restriction à $\ \scriptstyle \mathcal{B}(]0,1[)\$ de la mesure de Lebesgue sur $\ \scriptstyle \mathbb{R}\$ . Le théorème stipule que :

Théorème — Sur l'espace $\ \scriptstyle \left(\Omega,\mathcal{A},\mathbb{P}\right)\$ , la fonction de répartition de $\ \scriptstyle G\$ est $\ \scriptstyle F\$ .

Ainsi toute fonction $\ \scriptstyle F\$ de $\ \scriptstyle \mathbb{R}\$ dans $\ \scriptstyle \mathbb{R}\$ satisfaisant les 4 propriétés caractéristiques est fonction de répartition d'une variable aléatoire réelle (de $\ \scriptstyle G\$ , par exemple), ou encore d'une mesure de probabilité sur $\ \scriptstyle \left(\mathbb{R},\mathcal{B}(\mathbb{R})\right)\$ (de la loi de $\ \scriptstyle G\$ , par exemple).

Remarques.

Lorsque $\ \scriptstyle F\$ est une bijection bicontinue d'un intervalle $\ \scriptstyle I\$ dans $\ \scriptstyle ]0,1[\$ (i.e. $\ \scriptstyle F\$ est continue strictement croissante), $\ \scriptstyle G\$ est tout simplement la réciproque de $\ \scriptstyle F\$ (i.e. $\ \scriptstyle G\circ F=\text{Id}_I\$ et $\ \scriptstyle F\circ G=\text{Id}_{]0,1[}\$ ). Pour cette raison, $\ \scriptstyle G\$ est parfois appelée réciproque généralisée de $F .$
L'intérêt pratique de ce Théorème est développé dans l'article Méthode de la transformée inverse, ainsi que dans la section suivante.

Conséquences du théorème de la réciproque

Simulation de variables aléatoires réelles de loi arbitraire

Si $\ \scriptstyle U\$ désigne une variable aléatoire réelle uniforme sur [0,1], alors $\ \scriptstyle X=G(U)\$ a pour fonction de répartition $\ \scriptstyle F\$ .

Ainsi dans tout langage de programmation possédant un générateur de nombres aléatoires, on peut simuler une suite de longueur arbitraire de v.a.r. indépendantes de même fonction de répartition $\ \scriptstyle F\$ , pourvu que $\ \scriptstyle G\$ soit connue : il suffit alors d'appeler ce générateur de manière répétée, et d'appliquer la fonction $\ \scriptstyle G\$ aux nombres produits par ces appels répétés.

Exemples

	densité de probabilité	fonction de répartition	réciproque (généralisée)	code
Loi de Cauchy	$\frac{1}{π ( 1 + x ^{2} )}$	$F (x) = \frac{1}{π} (\frac{π}{2} + a r c t a n (x))$	$G (ω) = t a n (π (ω - \frac{1}{2}))$	$x \leftarrow t a n (π (rand () - \frac{1}{2}))$
Loi exponentielle	$λ e^{- λ x} 1_{x \geq 0}$	$F (x) = (1 - e^{- λ x}) 1_{x \geq 0}$	$G (ω) = - \frac{1}{λ} l n (1 - ω)$	$x \leftarrow - \frac{1}{λ} l n (rand ())$
Loi uniforme sur [a,b]	$\frac{1}{b - a} 1_{[a, b]} (x)$	$F (x) = \frac{x - a}{b - a} 1_{[a, b]} (x) + 1_{] b, + \infty [} (x)$	$G (ω) = a + ω (b - a)$	$x \leftarrow a + (b - a) rand ()$
Loi de Bernoulli		$F (x) = (1 - p) 1_{[0, 1 [} (x) + 1_{[1, + \infty [} (x)$	$G (ω) = ⌊ p + ω ⌋$	$x \leftarrow ⌊ p + rand () ⌋$
Loi uniforme sur ${1, 2, \dots, n}$		$F (x) = ⌊ \frac{x}{n} ⌋ 1_{[0, 1]} (x) + 1_{] 1, + \infty [} (x)$	$G (ω) = ⌈ nω ⌉$	$x \leftarrow ⌈ n rand () ⌉$
Loi normale, Loi binomiale	comme il n'y a pas de formule suffisamment explicite pour la fonction de répartition, et encore moins de formule explicite pour la réciproque de cette dernière, le théorème est alors inopérant.

Autres conséquences du théorème de la réciproque

La réciproque généralisée de $\scriptstyle\ F\$ est un exemple de v.a.r. dont la fonction de répartition est $\scriptstyle\ F\$ , mais c'est un exemple privilégié. Ses utilisations sont nombreuses, allant de propriétés de l'ordre stochastique, à des propriétés de la distance de Wasserstein [1], en passant par le théorème de représentation de Skorohod, voir section suivante.

Convergence en loi et fonction de répartition

Considérons une suite de variables aléatoires $\scriptstyle\ (X_n)_{n\ge 0}\$ (resp. une variable aléatoire $\scriptstyle\ X\$ ) définies sur des espaces probabilisés $\scriptstyle\ \left(\Omega_n,\mathcal{A}_n,\mathbb{P}_n\right)\$ (resp. $\scriptstyle\ \left(\Omega,\mathcal{A},\mathbb{P}\right)\$ ) éventuellement différents, mais toutes à valeurs dans le même espace métrique $\scriptstyle\ (S,d)\$ . On dit que $\scriptstyle\ (X_n)_{n\ge 0}\$ converge en loi vers $\scriptstyle\ X\$ ssi, pour toute fonction continue bornée de $\scriptstyle\ (S,d)\$ dans $\scriptstyle\ \mathbb{R}\$ ,

On a le théorème suivant :

Théorème — Dans le cas de variables aléatoires réelles ( $\scriptstyle\ S=\mathbb{R}\$ ), notons $\scriptstyle\ (F_n)_{n\ge 0}, \ F\$ les fonctions de répartitions de $\scriptstyle\ (X_n)_{n\ge 0}\$ et de $X$ . Il y a alors équivalence entre les 3 propositions ci-dessous :

$\scriptstyle\ (X_n)_{n\ge 0}\$ converge en loi vers $X$ ,
pour tout réel $\scriptstyle\ x\$ en lequel $\scriptstyle\ F\$ est continue, $l i m_{n \to \infty} F_{n} (x) = F (x)$ ,
il existe un espace probabilisé $\scriptstyle\ \left(\widehat{\Omega},\widehat{\mathcal{A}},\widehat{\mathbb{P}}\right)\$ , et, définies sur cet espace, des variables aléatoires réelles $\scriptstyle\ (X^{\prime}n){n\ge 0}\$ et $\scriptstyle\ X^{\prime}\$ telles que, simultanément,
$X^{'}$ a même loi que $X$ ,
pour chaque $n$ , $\scriptstyle\ X^{\prime}_n\$ a même loi que $\scriptstyle\ X_n\$ ,
$\scriptstyle\ (X^{\prime}n){n\ge 0}\$ converge presque sûrement vers $\scriptstyle\ X^{\prime}\$ .

L'implication 1. $\scriptstyle\ \Rightarrow\$ 3. reste vraie lorsque les variables aléatoires réelles sont remplacées par des variables aléatoires à valeurs dans un espace de Lusin $(S, d)$ , i.e. un espace métrisable assez général ( et $\scriptstyle\ S=\mathcal{C}([0,1],\mathbb{R})\$ en sont des exemples). L'implication 1. $\scriptstyle\ \Rightarrow\$ 3. porte alors le nom de Théorème de représentation de Skorohod.