Densité de probabilité

Restez toujours informé : suivez-nous sur Google (☆)

Introduction

En théorie des probabilités ou en statistiques, une densité de probabilité est une fonction qui permet de représenter une loi de probabilité sous forme d'intégrales.

Formellement, une loi de probabilité possède une densité ƒ, si ƒ est une fonction définie sur $\ \scriptstyle\mathbb{R},\$ positive ou nulle et Lebesgue-intégrable, telle que la probabilité de l'intervalle [a, b] est donnée par

\int_{a}^{b} f (x) d x

pour tous nombres a<b. Par exemple, si la variable X a pour densité de probabilité la fonction ƒ, la probabilité que la variable X soit dans l'intervalle [4,3, 7,8] sera

P (4, 3 \leq X \leq 7, 8) = \int_{4, 3}^{7, 8} f (x) d x .

Cela implique que l'intégrale de ƒ sur tout $\ \mathbb{R}\$ donne 1. Réciproquement, pour toute fonction ƒ positive ou nulle et Lebesgue-intégrable, d'intégrale égale à 1 :

\left\{f(x) \geq 0\quad \forall x\right\}\quad \and\quad\left\{ \int_{-\infty}^\infty \,f(x)\,dx = 1\right\},

il existe une loi de probabilité ayant ƒ pour densité de probabilité.

Intuitivement, si une loi de probabilité a pour densité ƒ, alors l'intervalle infinitésimal [x, x + dx] a pour probabilité ƒ(x) dx.

Informellement, une densité de probabilité peut être vue comme la limite d'un histogramme : si on dispose d'un échantillon suffisamment important de valeurs d'une variable aléatoire à densité, représenté par un histogramme des fréquences relatives des différentes classes de valeurs, alors cet histogramme va ressembler à la densité de probabilité de la variable aléatoire, pourvu que les classes de valeurs soient suffisamment étroites.

Densité de probabilité d'une variable aléatoire réelle

Lien entre la densité, f et la fonction de répartition (haut), et, plus généralement, les probabilités (bas).

Définition — En théorie des probabilités ou en statistiques, on dit qu'une fonction $\scriptstyle\ f\$ est une densité de probabilité d'une variable aléatoire réelle $\scriptstyle\ X\$ si, pour tout réel $x,$

P (X \leq x) = \int_{- \infty}^{x} f (u) d u .

La probabilité $\scriptstyle\ \mathbb{P}(a < X \le b)\$ se calcule alors par la relation suivante :

P (a < X \leq b) = \int_{a}^{b} f (u) d u .

En traçant la représentation graphique de la densité de probabilité, la probabilité $\scriptstyle\ \mathbb{P}(a < X \le b)\$ se lit comme l'aire sous la courbe sur l'intervalle $[a, b] .$

En conséquence, la fonction de répartition $\scriptstyle\ F_X\$ de $\scriptstyle\ X\$ est continue, et $P (X = a) = 0,$ pour tout nombre réel $a .$ En cela, le comportement d'une variable à densité est très différent de celui d'une variable discrète.

Définition informelle de la densité de probabilité

La définition qui suit est une reformulation de la définition intégrale proposée en début d'article. C'est la définition utilisée en général par les physiciens, en particulier ceux issus du domaine de la physique statistique.

Si $\scriptstyle\ dt\$ est un nombre réel positif infiniment petit, alors la probabilité que $\scriptstyle\ X\$ soit inclus dans l'intervalle $\scriptstyle\ [t,t+dt]\$ est égale à $f (t) d t,$ soit:

P (t < X < t + d t) = f (t) d t .

Cette « définition » est très utile pour comprendre intuitivement à quoi correspond une densité de probabilité, et est correcte dans beaucoup de cas importants. On peut tracer une analogie avec la notion de densité de masse, ou encore avec la notion de densité de population. Une formulation plus mathématique serait

P (t < X < t + h) = f (t) h + o (h),

ce qui permet de comprendre en quoi la définition donnée en physique n'est pas complètement rigoureuse :

P (t < X < t + h) = \int_{t}^{t + h} f (u) d u,

et il est alors facile de vérifier que si $\scriptstyle\ f\$ possède une limite à droite en $\scriptstyle\ t\$ , notons-là $f (t_{+}),$ on a alors

\int_{t}^{t + h} f (u) d u = f (t_{+}) h + o (h),

ce qui corrobore la définition physique lorsque $\scriptstyle\ f\$ est continue à droite en $t,$ mais la met en défaut quand $f (t) \neq = f (t_{+}) .$ Bien sûr, les densités de probabilités usuelles sont continues à droite sauf éventuellement en un nombre fini (et en un petit nombre) de points.

Notons que ce genre d'interprétation infinitésimale (ou issue de la physique) s'étend aux dimensions $d \geq 2,$ voir la section suivante.

Densité de la médiane de 9 variables i.i.d. :

Soit $\scriptstyle\ (X_i)_{1\le i\le 9}\$ une suite de 9 v.a. r. i.i.d. de même densité $f,$ et de même fonction de répartition $F .$ Notons $\scriptstyle\ M\$ la médiane de cette suite. Alors :

P (t < M < t + d t) = P (parmi les 9 v.a.r., 4 exactement sont \leq t et 4 sont \geq t + d t) .

On peut voir cela comme une suite de 9 expériences aléatoires indépendantes faites dans les mêmes conditions, avec à chaque fois 3 issues : " $\scriptstyle\ X_i\le t\$ ", " $\scriptstyle\ t<X_i<t+dt\$ " et " $\scriptstyle\ t+dt\le X_i\$ ", de probabilités respectives $F (t),$ $\scriptstyle\ f(t)dt\$ et $1 - F (t + d t),$ donc la probabilité ci dessus est donnée par la loi multinomiale de paramètres 3, 9 et $(F (t), f (t) d t, 1 - F (t + d t)) .$ Ainsi :

P (t < M < t + d t) = (4 , 1 , 4 9) F (t)^{4} (f (t) d t)^{1} (1 - F (t + d t))^{4},

et la densité de $\scriptstyle\ M\$ est

f_{M} (t) = (4 , 1 , 4 9) F (t)^{4} (1 - F (t))^{4} f (t) = 630 F (t)^{4} (1 - F (t))^{4} f (t) .

Cette méthode est détaillée dans le livre de David. Un résultat plus général se trouve dans Statistique d'ordre.

Critères d'existence d'une densité

En vertu d'un théorème dû à Lebesgue, la fonction de répartition d'une variable aléatoire réelle $X,$ étant croissante, est dérivable presque partout sur $\scriptstyle\ \mathbb{R},\$ et la dérivée ainsi obtenue est positive et intégrable sur $\scriptstyle\ \mathbb{R},\$ d'intégrale inférieure ou égale à 1.

Critère 1 — $\scriptstyle\ X\$ possède une densité de probabilité si et seulement si l'intégrale, sur $\scriptstyle\ \mathbb{R},\$ de la dérivée de la fonction de répartition est exactement égale à 1. Cette dérivée est alors une des densités de probabilité de $X .$

Critère 2 — Si la fonction de répartition de $\scriptstyle\ X\$ est de classe $C^{1}$ par morceaux sur $R$ et est, d'autre part, continue sur $\scriptstyle\ \mathbb{R},\$ alors la dérivée de la fonction de répartition de $\scriptstyle\ X\$ est une des densités de probabilité de $X .$

Densité de la médiane de 9 variables i.i.d. (bis) :

Pour le calcul de la densité de la médiane de 9 variables i.i.d., une solution plus rigoureuse que celle de la section précédente, mais plus lourde, est de calculer la fonction de répartition de la médiane, puis de la dériver. On reconnait un schéma de Bernoulli : le nombre d'indices $\scriptstyle\ i\$ tels que $\scriptstyle\ \{X_i\le t\}\$ suit une loi binomiale de paramètres 9 et $F (t) .$

P (M \leq t) = F_{M} (t) = P (au moins 5 des 9 X_{i} sont \leq t) = j = 5 \sum 9 (j 9) F (t)^{j} (1 - F (t))^{9 - j} .

En dérivant, on trouve :

f_{M} (t) = \frac{d F _{M}}{d t} (t) = j = 5 \sum 9 (j 9) (j F (t)^{j - 1} f (t) (1 - F (t))^{9 - j} + F (t)^{j} (9 - j) (1 - F (t))^{9 - j - 1} (- f (t)))

Après quelques manipulations sur les coefficients binomiaux, tous les termes de cette somme se télescopent, sauf une partie du premier terme, ce qui donne :

f_{M} (t) = \frac{9 !}{4 ! 4 !} F (t)^{4} (1 - F (t))^{4} f (t) = (4 , 1 , 4 9) F (t)^{4} (1 - F (t))^{4} f (t),

puis

\int_{R} F (t)^{4} (1 - F (t))^{4} f (t) d t = \int_{0}^{1} x^{4} (1 - x)^{4} d x = \frac{Γ ( 5 ) ^{2}}{Γ ( 10 )} = \frac{4 ! 4 !}{9 !} .

Pour les deux dernières égalités, se référer aux pages sur la fonction bêta et sur la fonction gamma. Il en découle que $\scriptstyle\ f_M\$ satisfait le critère 1. CQFD

On pourra consulter le livre de David (pages 8-13) pour plus de détails.

Densité de probabilité d'un vecteur aléatoire

Définition — On appelle densité de probabilité d'une variable aléatoire $\scriptstyle\ X\$ à valeur dans $R^{d}$ une fonction $\scriptstyle\ f\$ telle que pour toute partie borélienne $A \subset R^{d},$

P (X \in A) = \int_{R^{d}} 1_{A} (u) f (u) d u = \int_{A} f (u) d u .

Cette définition est en particulier valable pour $d = 1,$ et est donc équivalente à la première définition, dans le cas particulier $d = 1.$

Il existe une définition (équivalente) en termes d'espérance mathématique :

Théorème — Soit une variable aléatoire $\scriptstyle\ X\$ à valeur dans $R^{d}$ , de densité $f,$ et soit $\scriptstyle\ \varphi\$ une fonction borélienne de $\scriptstyle\ \mathbb{R}^d\$ dans $R .$ Alors, dès qu'un des deux termes de l'égalite suivante

E [φ (X)] = \int_{R^{d}} φ (u) f (u) d u

a un sens, alors l'autre aussi, et l'égalité a lieu. Réciproquement, si l'égalité ci-dessus a lieu pour tout $\scriptstyle\ \varphi\$ borélien borné, alors $\scriptstyle\ f\$ est une densité de $X .$

Il existe des variables aléatoires, réelles ou bien à valeurs dans $R^{d}$ , qui ne possèdent pas de densité de probabilité, par exemple les variables aléatoires discrètes. Les variables aléatoires qui possèdent une densité de probabilité sont appelées parfois variables à densité, parfois variables continues.

Si une fonction $\scriptstyle\ f\$ est la densité de probabilité d'une variable aléatoire à valeur dans $R^{d}$ , cette fonction vérifie les propriétés suivantes

$\scriptstyle\ f\$ est intégrable sur $R^{d}$ ;
$\int_{R^{d}} f (t) d t = 1$ ;
$\scriptstyle\ f\$ est presque sûrement positive ou nulle sur $R^{d}$ .

Réciproquement, si une fonction $\scriptstyle\ f\$ vérifie les 3 propriétés ci-dessus, on peut construire une variable aléatoire $\scriptstyle\ X\$ à valeur dans $R^{d}$ ayant $\scriptstyle\ f\$ pour densité de probabilité.

Espérance, variance et moments d'une variable aléatoire réelle à densité

Soit $\scriptstyle\ X\$ une variable aléatoire réelle ayant une densité de probabilité $\scriptstyle\ f\$ . D'après le théorème de transfert, $\scriptstyle\ X\$ possède un moment d'ordre $\scriptstyle\ k\$ si et seulement si

\int_{- \infty}^{\infty} ∣ t ∣^{k} f (t) d t < + \infty;

on a dans ce cas

E [X^{k}] = \int_{- \infty}^{\infty} t^{k} f (t) d t .

En particulier, lorsque le moment d'ordre 2 existe :

E [X] = \int_{- \infty}^{\infty} t f (t) d t,

E [X^{2}] = \int_{- \infty}^{\infty} t^{2} f (t) d t,

et, d'après le théorème de König-Huyghens,

V (X) = \int_{- \infty}^{\infty} t^{2} f (t)^{2} d t - (\int_{- \infty}^{\infty} t f (t) d t)^{2} .

Existence

En vertu du théorème de Radon-Nikodym, le vecteur aléatoire $\scriptstyle\ Z\$ possède une densité si et seulement si, pour chaque borélien $\scriptstyle\ A\$ de $\scriptstyle\ \mathbb{R}^d\$ dont la mesure de Lebesgue est nulle, on a

P (Z \in A) = 0.

Ce critère est rarement employé dans la pratique pour démontrer que $\scriptstyle\ Z\$ possède une densité, mais il est en revanche utile pour démontrer que certaines probabilités sont nulles. Par exemple, si le vecteur aléatoire $\scriptstyle\ Z=(X,Y)\$ possède une densité, alors

$P (X = Y) = 0$ ,
$P (X^{2} + Y^{2} = 1) = 0$ ,
$P (Y = φ (X)) = 0$ ,
$P (ψ (X, Y) = 0) = 0$ ,

pour des fonctions $\scriptstyle\ \varphi\$ et $\scriptstyle\ \psi\$ suffisamment régulières, parce que la mesure de Lebesgue (c'est-à-dire la surface) de la 1 bissectrice (resp. du cercle unité, du graphe de la fonction $φ,$ ou de la courbe d'équation $ψ = 0$ ) sont nulles.

Le critère de Radon-Nikodym peut aussi être utilisé pour démontrer qu'un vecteur aléatoire ne possède pas de densité : par exemple, si

Z = (cos Θ, sin Θ),

où $\scriptstyle\ \Theta\$ désigne une variable aléatoire à valeur dans $\scriptstyle\ [0,2\pi]\$ (par exemple, si $\scriptstyle\ Z\$ est tiré au hasard uniformément sur le cercle unité, c'est-à-dire si $\scriptstyle\ \Theta\$ suit la loi uniforme sur $\scriptstyle\ [0,2\pi]\$ ), alors $\scriptstyle\ Z\$ ne possède pas de densité car

P (X^{2} + Y^{2} = 1) = 1.

Cas des variables aléatoires réelles à densité

En spécialisant à d=1, on note que, parmi les boréliens $\scriptstyle\ A\$ de $\scriptstyle\ \mathbb{R}\$ dont la mesure de Lebesgue est nulle, figurent en particulier les parties finies de $\scriptstyle\ \mathbb{R}.\$ Donc une variable aléatoire réelle X à densité vérifie, en particulier :

P (X = x) = 0,

pour tout nombre réel x, et, par conséquent,

P (a \leq X \leq b) = P (a \leq X < b) = P (a < X \leq b) = P (a < X < b) .

Il suit que les variables aléatoires réelles à densité ont nécessairement une fonction de répartition continue sur $\scriptstyle\ \mathbb{R}.\$ La continuité de la fonction de répartition n'est pas, toutefois, une propriété caractéristique des variables aléatoires réelles à densité, comme le montre l'exemple de l'escalier de Cantor.

Non-unicité de la densité de probabilité

Si $\scriptstyle\ f\$ et $\scriptstyle\ g\$ sont deux densités de probabilités de la même variable aléatoire $X,$ alors $\scriptstyle\ f\$ et $\scriptstyle\ g\$ sont égales presque partout. Réciproquement, si g est presque partout égale à une densité de probabilité de $X,$ alors g est une densité de probabilité de $X .$ Ainsi une variable aléatoire à densité possède-t-elle toujours une infinité de densités de probabilité : par exemple, en perturbant l'une des densités de $\scriptstyle\ X\$ de manière arbitraire en un nombre fini de points, on obtient encore une densité de $X .$

Densité jointe de plusieurs variables aléatoires réelles

La fonction $\scriptstyle\ g\$ définie de $\scriptstyle\ \mathbb{R}^d\$ dans $\scriptstyle\ \mathbb{R}\$ est une densité jointe de la suite de variables aléatoires réelles $\scriptstyle\ \left(Z_1,Z_2,\dots,Z_d\right)\$ si $\scriptstyle\ g\$ est une densité de probabilité du vecteur aléatoire $\scriptstyle\ Z\$ à valeurs dans $R^{d},$ défini par

Z = (Z_{1}, Z_{2}, \dots, Z_{d}) .

On peut alors calculer la probabilité d'événements concernant les variables aléatoires réelles $\scriptstyle\ \left(Z_1,Z_2,\dots,Z_d\right)\$ de la manière suivante :

Exemple :

Si $d = 2,$ $\scriptstyle\ \mathbb{P}(Z_2\le Z_1)\$ s'écrit $P (Z \in A),$ où $\scriptstyle\ A\$ désigne le demi-plan sous la première bissectrice $A = {(x, y) \in R^{2} ∣ y \leq x} .$ On a alors, par définition de la densité,

P (Z_{2} \leq Z_{1}) = \int_{A} g (z_{1}, z_{2}) d z_{1} d z_{2}, = \int_{R^{2}} 1_{A} (z_{1}, z_{2}) g (z_{1}, z_{2}) d z_{1} d z_{2}, = \int_{R^{2}} 1_{z_{2} \leq z_{1}} g (z_{1}, z_{2}) d z_{1} d z_{2} .

Si par exemple $\scriptstyle\ Z_1\$ et $\scriptstyle\ Z_2\$ sont indépendants et ont même densité de probabilité $f,$ alors une densité de $\scriptstyle\ Z\$ est $\scriptstyle\ g=f\otimes f\$ , c'est-à-dire une densité de $\scriptstyle\ Z\$ est $\scriptstyle\ g\$ défini par $\scriptstyle\ g(z_1,z_2)=f(z_1)f(z_2)\$ . En ce cas,

P (Z_{2} \leq Z_{1}) = \int_{R^{2}} 1_{z_{2} \leq z_{1}} f (z_{1}) f (z_{2}) d z_{1} d z_{2}, = \int_{R} (\int_{- \infty}^{z_{1}} f (z_{2}) d z_{2}) f (z_{1}) d z_{1}, = \int_{R} F (z_{1}) f (z_{1}) d z_{1} = \frac{1}{2} [F^{2}]_{- \infty}^{+ \infty} = \frac{1}{2} .

Si par contre $\scriptstyle\ Z_2=Z_1\$ p.s., le vecteur $\scriptstyle\ (Z_1,Z_2)\$ a les mêmes lois marginales ( $\scriptstyle\ Z_1\$ et $\scriptstyle\ Z_2\$ ont $\scriptstyle\ f\$ pour densité de probabilité), mais n'a pas la même loi jointe, puisqu'alors $P (Z_{2} \leq Z_{1}) = 1.$ Ainsi la donnée des densités marginales de $\scriptstyle\ Z_1\$ et $Z_{2},$ seules, ne permet pas de calculer la probabilité d'événements faisant intervenir à la fois $\scriptstyle\ Z_1\$ et $Z_{2},$ comme par exemple l'évènement ${Z_{2} \leq Z_{1}} .$ Pour effectuer le calcul, on utilise ordinairement la loi jointe de $\scriptstyle\ Z_1\$ et $Z_{2},$ définie dans le cas ci-dessus par leur densité jointe.

Densité marginale

Soit $\scriptstyle\ Z\$ un vecteur aléatoire à valeurs dans $\scriptstyle\ \mathbb{R}^2\$ de densité $\scriptstyle\ f_Z\$ et pour $ω \in Ω,$ soit $\scriptstyle\ X(\omega)\$ et $\scriptstyle\ Y(\omega)\$ les deux coordonnées de $\scriptstyle\ Z(\omega)\$ . On notera

Z = (X, Y) .

Alors

Propriété — Les variables aléatoires réelles $\scriptstyle\ X\$ et $\scriptstyle\ Y\$ possèdent toutes deux des densités, notons les $\scriptstyle\ f_X\$ et $\scriptstyle\ f_Y\$ , et ces densités sont données par

\begin{align}f_X(x)&= \int_{\mathbb{R}}\ f_Z(x,y)\,dy,\f_Y(y)&= \int_{\mathbb{R}}\ f_Z(x,y)\,dx.\end{align}

Les densités de probabilités $\scriptstyle\ f_X\$ et $\scriptstyle\ f_Y\$ sont appelées les densités marginales de $f_{Z} .$

Plus généralement, si $\scriptstyle\ f\$ définie de $\scriptstyle\ \mathbb{R}^d\$ dans $\scriptstyle\ \mathbb{R}\$ est une densité jointe de :

Z = (Z_{1}, Z_{2}, \dots, Z_{d}),

on peut calculer une densité $\scriptstyle\ g\$ de (par exemple) $\scriptstyle\ Y=\left(Z_2,Z_5,Z_6\right)\$ de la manière suivante (si $d = 8,$ par exemple) :

g (x_{2}, x_{5}, x_{6}) = \int_{R^{5}} f (x_{1}, x_{2}, \dots, x_{8}) d x_{1} d x_{3} d x_{4} d x_{7} d x_{8},

c'est-à-dire en intégrant par rapport à toutes les coordonnées qui ne figurent pas dans le triplet $Y .$ La fonction $\scriptstyle\ g\$ est elle aussi appelée « densité marginale » ou « marginale » de $f .$ Une formulation générale serait lourde. La démonstration générale est calquée sur la démonstration de la propriété ci-dessus.

Densité de la médiane de 9 variables i.i.d. (ter) :

La densité jointe des 9 statistiques d'ordre, notées ici $(Z_{i})_{1 \leq i \leq 9},$ de l'échantillon $(X_{i})_{1 \leq i \leq 9},$ est donnée par :

g (z) = 9! i = 1 \prod 9 f (z_{i}) 1_{z_{1} < z_{2} < z_{3} < \dots < z_{9}} .

Par définition des statistiques d'ordre, la médiane $\scriptstyle\ M\$ est aussi la 5-ème statistique d'ordre, $Z_{5} .$ On a donc :

f_{M} (z_{5}) = \int_{R^{8}} g (z) d z_{1} d z_{2} d z_{3} d z_{4} d z_{6} d z_{7} d z_{8} d z_{9} .

Ainsi, de proche en proche,

\int_{R} g (z) d z_{1} = 9! F (z_{2}) i = 2 \prod 9 f (z_{i}) 1_{z_{2} < z_{3} < \dots < z_{9}}, \int_{R^{2}} g (z) d z_{1} d z_{2} = \frac{9 !}{2 !} F (z_{3})^{2} i = 3 \prod 9 f (z_{i}) 1_{z_{3} < \dots < z_{9}}, \int_{R^{4}} g (z) d z_{1} d z_{2} d z_{3} d z_{4} = \frac{9 !}{4 !} F (z_{5})^{4} i = 5 \prod 9 f (z_{i}) 1_{z_{5} < \dots < z_{9}}, \int_{R^{4}} g (z) d z_{1} d z_{2} d z_{3} d z_{4} d z_{9} = \frac{9 !}{4 ! 1 !} F (z_{5})^{4} (1 - F (z_{8})) i = 5 \prod 8 f (z_{i}) 1_{z_{5} < \dots < z_{8}}, f_{M} (z_{5}) = \frac{9 !}{4 ! 4 !} F (z_{5})^{4} (1 - F (z_{5}))^{4} f (z_{5}) .

Indépendance des variables aléatoires à densité

Soit une suite $X = (X_{1}, X_{2}, \dots, X_{n})$ de variables aléatoires réelles définies sur le même espace de probabilité $\scriptstyle\ (\Omega, \mathcal{A}, \mathbb{P}).\$

Théorème —

Si $\scriptstyle\ X\$ possède une densité de probabilité $\scriptstyle\ f:\R^n\rightarrow [0,+\infty[\$ qui s'écrit sous forme « produit » :

\forall x = (x_{1}, \dots, x_{n}) \in R^{n}, f (x) = i = 1 \prod n g_{i} (x_{i}),

où les fonctions $\scriptstyle\ g_i\$ sont boréliennes et positives ou nulles, alors $\scriptstyle\ X\$ est une suite de variables indépendantes. De plus, la fonction $\scriptstyle\ f_i\$ définie par

f_{i} (x) = \frac{g _{i} ( x )}{\int _{R} g _{i} ( u ) d u}

est une densité de la composante $\scriptstyle\ X_i.\$

Réciproquement, si $\scriptstyle\ X\$ est une suite de variables aléatoires réelles indépendantes de densités de probabilité respectives $\scriptstyle\ f_i,\$ alors $\scriptstyle\ X\$ possède une densité de probabilité, et la fonction $\scriptstyle\ f\$ définie par

\forall (x_{1}, \dots, x_{n}) \in R^{n}, f (x_{1}, \dots, x_{n}) = i = 1 \prod n f_{i} (x_{i}),

est une densité de probabilité de $\scriptstyle\ X.\$

Fonction de variables aléatoires à densité

Dans cette section, on considère la question suivante : étant donnée une variable aléatoire $\scriptstyle\ X\$ de densité $\scriptstyle\ f_X\$ et une fonction $\scriptstyle\ g,\$ quelle est la loi de la variable aléatoire $\scriptstyle\ Y=g(X).\$ En particulier, sous quelles conditions $\scriptstyle\ Y\$ possède-t-elle aussi une densité de probabilité $\scriptstyle\ f_Y\$ ? Et comment peut-on la calculer ? Une réponse rapide est que, localement, on doit pouvoir appliquer à la fonction g le théorème d'inversion locale sauf sur un ensemble de points de mesure de Lebesgue nulle). Le calcul de $\scriptstyle\ f_Y\$ se résume alors à un changement de variable dans une intégrale simple ou multiple, comme cela est illustré dans les quelques exemples ci-dessous.

Somme de variables aléatoires indépendantes

La densité de probabilité de la somme de deux variables aléatoires indépendantes U et V, chacune ayant une densité f_U et f_V, est donnée par une convolution de ces densités:

f_{U + V} (x) = \int_{- \infty}^{\infty} f_{U} (y) f_{V} (x - y) d y = (f_{U} * f_{V}) (x) .

Dans cet exemple, $\scriptstyle\ X=(U,V),\$ $\scriptstyle\ f_X(u,v)=f_U(u)f_V(v)\$ et $\scriptstyle\ g(u,v)=u+v.\$

Pour déterminer la loi de la somme de variables indépendantes, on peut aussi passer par la fonction génératrice des moments ou par la fonction caractéristique d'une variable aléatoire . C'est ainsi qu'est démontré le théorème de la limite centrale.

Fonction d'une variable aléatoire réelle à densité

Notons $\scriptstyle\ f_X\$ la densité de la variable aléatoire réelle $X .$ Il est possible de considérer un changement de variable, dépendant de x. La transformation est la suivante: Y = g(X) où la fonction g est strictement monotone et dérivable, de dérivée qui ne s'annule nulle part. La densité f_Y(y) de la transformée est

Théorème —

f_{Y} (y) = \frac{1}{g ^{'} ( g ^{- 1} ( y ))} \cdot f_{X} (g^{- 1} (y)) .

où g représente la fonction réciproque de g et g' la dérivée de g.

Pour une transformation g non monotone, la densité de probabilité de Y est

f_{Y} (y) = k \sum n (y) \frac{1}{g ^{'} ( g ^{- 1} k ( y ))} \cdot f_{X} (g^{- 1} k (y))

où n(y) est le nombre de solutions en x de l'équation g(x) = y, et $g_{k}^{- 1} (y)$ sont les solutions. La fonction g doit vérifier certaines hypothèses, toutefois : essentiellement on doit pouvoir lui appliquer le théorème d'inversion locale sauf sur un ensemble de points de mesure de Lebesgue nulle. Par exemple un ensemble d'hypothèses peu limitatif mais simple à vérifier serait : g est de classe C1 et l'ensemble des zéros de la dérivée g' est localement fini. Il s'agit d'exclure entre autres (mais pas seulement) le cas où g est constante sur un ensemble de mesure non nulle pour la loi de X, cas où g(X) n'a pas une loi à densité, car la loi de g(X) peut alors avoir une partie discrète.