Loi normale

Restez toujours informé : suivez-nous sur Google (☆)

Introduction

Distribution gaussienne
Densité
Fonction de masse pour les distributions correspondantes
Paramètresμ moyenne (nombre réel)

σ > 0 variance (nombre réel)
Support
Densité de probabilité (fonction de masse)
Fonction de répartition
Espéranceμ
Médiane (centre)μ
Modeμ
Varianceσ
Asymétrie (statistique)0
Kurtosis

(non-normalisé)
3 (0 si normalisé)
Entropie
Fonction génératrice des moments
Fonction caractéristique

En probabilité, on dit qu'une variable aléatoire réelle X suit une loi normale (ou loi normale gaussienne, loi de Laplace-Gauss) d'espérance μ et d'écart type σ strictement positif (donc de variance σ) si cette variable aléatoire réelle X admet pour densité de probabilité la fonction p(x) définie, pour tout nombre réel x, par :

Une telle variable aléatoire est alors dite variable gaussienne.

On note habituellement cela de la manière suivante :

La loi normale est une des principales distributions de probabilité. Elle a été introduite par le mathématicien Abraham de Moivre en 1733 et utilisée par lui afin d'approcher des probabilités associées à des variables aléatoires binomiales possédant un paramètre n très grand. Cette loi a été mise en évidence par Gauss au XIX siècle et permet de modéliser de nombreuses études biométriques. Sa densité de probabilité dessine une courbe dite courbe en cloche ou courbe de Gauss.

La loi normale centrée réduite

Définition

Représentation graphique d'une loi normale centrée réduite (dite courbe de Gauss ou courbe en cloche).

On appelle loi normale (ou gaussienne) centrée réduite la loi définie par la densité de probabilité définie par :

On vérifie qu'elle est continue et que son intégrale sur est égale à 1.

On sait en effet que (intégrale de Gauss).

On démontre (voir plus bas) que la loi définie par cette densité de probabilité admet une espérance nulle et une variance égale à 1.

Remarques :

  • la densité est paire ;
  • elle est indéfiniment dérivable et vérifie, pour tout , l'identité .

La représentation graphique de cette densité est une courbe en cloche (ou courbe de Gauss).

Moments

Les moments de cette loi existent tous. Pour tout , le moment d'ordre n par rapport à l'origine est :

.

Pour la suite on supposera μ = 0 et σ = 1.

  • En raison de la parité de l'intégrande, tous les moments d'ordre impair sont nuls :
  • Supposons à présent n pair : , où .

Si , une intégration par parties (non détaillée ici) donne :

ce qui fournit la relation de récurrence :

.

De cette relation, on déduit, comme , que :

  • En particulier, (l'espérance est nulle : la loi est donc dite centrée) et (la variance vaut  : la loi est donc dite réduite).

Ceci justifie l'appellation de loi normale centrée réduite.

  • Des formules précédentes, on déduit encore :

 et  

  • La loi étant réduite, les moments centrés sont tous égaux aux moments par rapport à l'origine de même rang ; en particulier :

,   et .

On en déduit l'asymétrie (skewness) : et l'aplatissement (kurtosis) : .

Fonction de répartition

On note Φ la fonction de répartition de la loi normale centrée réduite. Elle est définie, pour tout réel x, par :

Φ est la primitive de qui tend vers 0 en  ; cette primitive ne s'exprime pas à l'aide des fonctions usuelles (exponentielle, etc.) mais devient elle-même une fonction usuelle, importante, pour quiconque pratique le calcul des probabilités ou les statistiques. La fonction Φ s'exprime à l'aide de la fonction d'erreur, elle même notée erf :

ou bien encore

Citons les propriétés suivantes de la fonction Φ :

  • Elle est indéfiniment dérivable, et
  • Elle est strictement croissante, tend vers 0 en et vers 1 en

(c'est donc une bijection  : pour tout , il existe unique, noté , tel que )

  • Pour tout (ceci résulte de ce que la densité est paire) ; en particulier,

Remarque : les notations et pour désigner « la » densité et la fonction de répartition de la loi normale centrée réduite sont usuelles.

Approximation de la fonction de répartition

Il n'existe pas d'expression pour Φ mais on peut exploiter avec profit son aspect régulier pour en donner une approximation grâce à un développement en série de Taylor. Par exemple, voici une approximation (à l'ordre 5) autour de 0:

Cette approximation est performante pour | x | < 2.

Une approximation pour les grandes valeurs de x est donnée, pour x positif, par la formule

série divergente pour tout x positif, mais dont les sommes partielles encadrent 1-Φ(x) de manière efficace lorsque x est grand. Par exemple,

d'où une erreur relative inférieure à 25% pour x supérieur à 2 ou bien inférieure à 11% pour x supérieur à 3. Ou bien encore :

d'où une erreur relative inférieure à 25% pour x supérieur à 2 ou bien inférieure à 2% pour x supérieur à 3.

Tables numériques

Il existe des tables de la fonction de répartition, donnant des valeurs approchées de  ; on se limite à des x positifs ou nuls : en effet, si par exemple on connaît l'approximation , on en déduit .

Au lieu des précédentes, on utilise souvent des tables de la fonction qu'on notera ici , définie sur par :

La table suivante donne pour tout x de 0 jusqu'à 3,9 par pas de 0,01, la valeur de 10 Φ(x). Ces valeurs sont arrondies à l'unité la plus proche.

L'entrée en ligne donne les deux premiers chiffres de x, c'est-à-dire le chiffre des unités et celui des dixièmes, et l'entrée en colonne le chiffre des centièmes.

Par exemple : Pour Φ(1,73) = 0,95818, on choisira 1,7 en ligne et 0,03 en colonne (1,7 + 0,03 = 1.73) et l'intersection nous donnera le résultat.

0,000,010,020,030,040,050,060,070,080,09
0,050000503995079851197515955199452392527905318853586
0,153983543805477655172555675596256356567495714257535
0,257926583175870659095594835987160257606426102661409
0,361791621726255262930633076368364058644316480365173
0,465542659106627666640670036736467724680826843968793
0,569146694976984770194705407088471226715667190472240
0,672575729077323773565738917421574537748577517575490
0,775804761157642476730770357733777637779357823078524
0,878814791037938979673799558023480511807858105781327
0,981594818598212182381826398289483147833988364683891
1,084134843758461484849850838531485543857698599386214
1,186433866508686487076872868749387698879008810088298
1,288493886868887789065892518943589617897968997390147
1,390320904909065890824909889114991309914669162191774
1,491924920739222092364925079264792785929229305693189
1,593319934489357493699938229394394062941799429594408
1,694520946309473894845949509505395154952549535295449
1,795543956379572895818959079599496080961649624696327
1,896407964859656296638967129678496856969269699597062
1,997128971939725797320973819744197500975589761597670
2,097725977789783197882979329798298030980779812498169
2,198214982579830098341983829842298461985009853798574
2,298610986459867998713987459877898809988409887098899
2,398928989569898399010990369906199086991119913499158
2,499180992029922499245992669928699305993249934399361
2,599379993969941399430994469946199477994929950699520
2,699534995479956099573995859959899609996219963299643
2,799653996649967499683996939970299711997209972899736
2,899744997529976099767997749978199788997959980199807
2,999813998199982599831998369984199846998519985699861
3,099865998699987499878998829988699889998939989699900
3,199903999069991099913999169991899921999249992699929
3,299931999349993699938999409994299944999469994899950
3,399952999539995599957999589996099961999629996499965
3,499966999689996999970999719997299973999749997599976
3,599977999789997899979999809998199981999829998399983
3,699984999859998599986999869998799987999889998899989
3,799999999999999999999999999999999999999999999999999
3,899999999999999999999999999999999999999999999999999
3,9100000100000100000100000100000100000100000100000100000100000

On dispose des relations simples suivantes entre et (découlant de la formule de Chasles pour les intégrales) :

  • si , alors
  • si , alors

Soit T une variable aléatoire suivant la loi normale centrée réduite :

  • pour tout et pour tout

  • pour tout couple de réels tels que , .

Exemples numériques

À l'aide de la table ci-dessus, on obtient, pour la variable aléatoire précédente :

La loi normale générale

Soient une variable aléatoire suivant la loi normale centrée réduite, et deux réels , où .

On définit la variable aléatoire , dont on note la fonction de répartition.

On a et puisque et .

Cherchons la loi de  : pour tout ,

,

puisque la fonction de répartition de est .

Ainsi, est continûment (et même indéfiniment) dérivable : suit une loi à densité, et la dérivée de est une densité de probabilité de cette variable aléatoire ; pour tout ,

.

Ceci légitime la définition suivante :

Définition

On appelle loi normale (ou gaussienne, ou de Laplace-Gauss) de paramètres (où ) la loi de probabilité définie par la densité , telle que pour tout  :

.

Une variable gaussienne est une variable aléatoire réelle qui suit une loi normale de paramètres (où est soit positive, soit nulle). Le cas où est nul est appelé cas dégénéré et correspond aux variables aléatoires constantes. Cette convention étrange est commode, voire indispensable (par exemple pour définir les vecteurs gaussiens).

Notation: cette loi est notée
La loi normale centrée réduite est notée .

On peut énoncer plusieurs propriétés, compte tenu de ce qui précède (le dernier point se démontrant de manière analogue).

Propriétés

Soit une variable aléatoire qui suit la loi normale . Alors :

  • son espérance et sa variance existent et ,
  • sa fonction de répartition est telle que pour tout ,
  • la variable aléatoire , c'est-à-dire , suit la loi normale centrée réduite
  • si sont deux réels (), alors la variable aléatoire suit la loi normale

Soit une variable aléatoire qui suit la loi normale . Alors la variable aléatoire exp(X) (de loi dite log-normale) possède les propriétés suivantes:

  • son espérance existe et vaut
  • sa variance existe et vaut

Soit une variable aléatoire suivant une loi normale et suivant une loi normale . Alors, la divergence de Kullback-Leibler entre ces deux distributions est de la forme :

Largeur à mi-hauteur

Lorsque l'on travaille sur une représentation graphique, on estime fréquemment la largeur de la gaussienne par sa largeur à mi-hauteur H (en anglais full width at half maximum, FWHM), qui est la largeur de la courbe à une altitude qui vaut la moitié de l'altitude du sommet. La largeur à mi-hauteur est proportionnelle à l'écart type :

Le facteur 2 sert à prendre en compte l'extension de la gaussienne dans les valeurs négatives.

Calcul de P(a ≤ X ≤ b)

Les résultats précédents permettent de ramener tout calcul de probabilité relatif à la loi normale à un calcul de probabilité relatif à la loi normale centrée réduite. On a vu qu'on dispose de tables donnant des approximations de valeurs de la fonction , tables qu'on utilise encore fréquemment, même si certaines calculatrices ou certains tableurs peuvent maintenant les remplacer.

Si la variable aléatoire suit la loi normale , et si sont deux réels tels que , on a :

Cas d'un intervalle centré à la moyenne, plages de normalité

  • Si t est un réel positif,
  • lorsque , où ,

ce qui équivaut à , ou ,

l'intervalle est appelé plage de normalité au niveau de confiance α

(si par exemple, α = 0,95, on dit : "plage de normalité au niveau de confiance 95%" : en statistique, c'est un intervalle dans lequel se trouve 95% de la population lorsque la distribution est gaussienne).

Exemples numériques

Grâce à la table précédente, on obtient :

  •  ;

l'intervalle est la plage de normalité au niveau de confiance 68 %

  •  ;

l'intervalle (H étant la largeur à mi-hauteur) est la plage de normalité au niveau de confiance 76 %

  •  ;

l'intervalle est la plage de normalité au niveau de confiance 95 %

  •  ;

l'intervalle est la plage de normalité au niveau de confiance 99 %

Champ d'application

Une planche de Galton nous montre que la loi binomiale tend vers la loi normale

Le Théorème de Moivre-Laplace affirme la convergence d'une loi binomiale vers une loi de Gauss quand le nombre d'épreuves augmente. On peut alors utiliser la loi normale comme approximation d'une loi binomiale de paramètres (n ; p) pour n grand et p, 1 - p de même ordre de grandeur ; on approche alors cette loi binomiale par la loi normale ayant même espérance n**p et même variance n**p(1 − p).

On a dessiné ci-dessous :

  • la loi binomiale de paramètres (12;1 / 3) (diagramme en bâtons rouge) et la loi normale correspondante d'espérance 4 et de variance 8 / 3 (courbe verte)
Bernoulli12.png
  • la loi binomiale de paramètres (60;1 / 3) (diagramme en bâtons rouge) , et la loi normale correspondante d'espérance 20 et de variance 40 / 3 (courbe verte)
Bernoulli60.png

Le mathématicien Carl Friedrich Gauss a introduit cette loi pour le calcul d'erreurs.

En statistiques, de nombreux phénomènes suivent des distributions gaussiennes : données biométriques des individus (Adolphe Quetelet).

Critères et tests de normalité

Critères de normalité

Le recours à une distribution gaussienne est si fréquent qu'il peut finir par être abusif. Il faut alors rechercher des critères de normalité.

Le premier critère, le plus simple, consiste à tracer l'histogramme ou le diagramme en bâtons de la distribution et à vérifier si le diagramme est en forme de « cloche ». Ce critère, subjectif, permet cependant d'éliminer une partie des distributions jugées alors non gaussiennes.

Le critère suivant consiste à utiliser les plages de normalité ou intervalles de confiance. On a vu que si une distribution est gaussienne :

  • 68% de la population est dans l'intervalle ,

  • 76% de la population est dans l'intervalle ,

  • 95% de la population est dans l'intervalle ,

  • 99% de la population est dans l'intervalle .

Lorsque ces pourcentages ne sont pas respectés, il y a fort à parier que la distribution n'est pas gaussienne.

On peut aussi utiliser la droite de Henry, en particulier quand on possède peu de renseignements sur la distribution. La droite de Henry va permettre de porter un diagnostic sur la nature non gaussienne de la distribution, et, dans le cas où celle-ci a des chances d'être gaussienne, elle permet d'en déterminer la moyenne et l'écart type.

Tests de normalité

Il existe également un grand nombre de tests de normalité:

  • Tests basés sur la fonction de répartition empirique : Test de Kolmogorov-Smirnov et son adaptation le test de Lilliefors (en), ou le test de Anderson-Darling (en)

  • Tests basés sur les moments, comme le Test de Jarque Bera ou test D'Agostino's K-squared (en)

  • Test d'adéquation du χ²

  • ou encore le test de Shapiro-Wilk (en)

Stabilité de la loi normale par la somme

La somme de deux variables gaussiennes indépendantes est elle-même une variable gaussienne. Plus explicitement :

Soient deux variables aléatoires indépendantes suivant respectivement les lois et .

Alors, la variable aléatoire suit la loi normale .

Cette propriété se démontre directement (par convolution), ou indirectement (au moyen des fonctions caractéristiques).

Exemple

On prend ici le gramme comme unité de masse. Si la masse du contenu d'une boîte de conserve suit la loi normale d'espérance 400 et de variance 25, et si celle du contenant suit la loi normale d'espérance 60 et de variance 4, alors (avec l'hypothèse, naturelle, d'indépendance) la masse totale de la boîte de conserve suit la loi normale d'espérance 460 et de variance 29 ; son écart type est environ 5,4 grammes.

Stabilité de la loi normale par la moyenne

Soient \scriptstyle\ X_{1},\,X_{2},\,\dots\,,\,X_{n}\ des variables aléatoires indépendantes suivant respectivement les lois normales

La moyenne \scriptstyle\ (X_1+X_2+...+X_n)/n\ suit alors la loi

Mélange de populations

Il ne faut pas confondre la somme de deux variables gaussiennes indépendantes, qui reste une variable gaussienne, et le mélange de deux populations gaussiennes, qui n'est pas une population gaussienne (voir aussi modèle de mixture gaussienne).

Un mélange constitué de

  • 2/3 d'individus dont la taille suit une loi normale de moyenne 160 cm et d'écart type 15 cm, de densité f
  • 1/3 d'individus dont la taille suit une loi normale de moyenne 130 cm et d'écart type 10 cm, de densité g

suit une loi de moyenne (2/3)×160+(1/3)×130 = 150 cm, mais non gaussienne, de densité

h = (2/3) f + (1/3) g.

Sur la représentation graphique de la densité h, on peut apercevoir une double bosse : la distribution est bimodale.

Double Gauss.png

Simulation

Il est possible de simuler, par exemple par ordinateur, un tirage aléatoire dont la loi est normale.

Les logiciels ou les langages de programmation possèdent en général un générateur de nombres pseudo-aléatoires ayant une distribution uniforme sur ]0,1[. On cherche donc une fonction transformant ces nombres. De manière générale, on peut prendre la fonction réciproque de la fonction de répartition : en l'occurrence, si la variable aléatoire U suit la loi uniforme sur ]0,1[, alors la variable aléatoire suit la loi normale centrée réduite ; cependant, cette méthode est tout à fait malcommode, faute d'expressions simples des fonctions et . En revanche, on peut facilement utiliser la méthode décrite ci-dessous.

Cas de la loi normale à une dimension

Pour simuler la loi normale à une dimension (celle qui a été étudiée jusqu'ici), on peut utiliser la méthode de Box-Muller dont voici le principe :
Si U1 et U2 sont des variables aléatoires indépendantes qui suivent la loi uniforme sur ]0,1[, alors on démontre assez aisément que les variables aléatoires :

suivent toutes deux la loi normale centrée réduite (et sont indépendantes).

Les variables aléatoires et suivent donc toutes deux la loi normale , et indépendamment l'une de l'autre.

Exemple d'implémentation

#define DEUX_PI ( 2.0 * 3.141592653589793238462643383279502884197169399375 ) // PI x 2 // [ ... ] /** * Retourne un nombre pseudo-aléatoire selon une loi normale de paramètres mu et sigma * @param mu moyenne (espérance mathématique) de la distribution * @param sigma écart-type de la distribution (doit être strictement positif) */ double genererNombreLoiNormale(double mu, double sigma) { // On récupère deux nombres pseudo-aléatoires indépendants selon une loi uniforme sur l'intervalle [0;1] double randNumUni = ((double) rand())/((double) RAND_MAX); double randNumBi = ((double) rand())/((double) RAND_MAX); // On récupère un nombre pseudo-aléatoire selon une loi normale centrée réduite // (Paramètres : moyenne = 0, écart-type = 1) // Utilisation de l'algorithme de Box-Muller double randNumNorm = sqrt(-2.0*log(randNumUni))*cos(DEUX_PI*randNumBi); return (mu + sigma * randNumNorm); }

Voir aussi

Cas de la loi multinormale

La loi multinormale ou loi normale sur étend la loi normale à un vecteur aléatoire à valeurs dans .

Elle est caractérisée par deux paramètres : un vecteur m de moyennes, et une matrice de variance-covariance V (carrée d'ordre n).

Pour simuler une loi multinormale non dégénérée de paramètres m et V, on utilise la méthode suivante :

  1. Soit T un vecteur aléatoire à n composantes gaussiennes centrées réduites et indépendantes (la loi de T, multinormale, a pour moyenne le vecteur nul et pour matrice de variance-covariance la matrice identité).
  2. Soit L la matrice résultant de la factorisation de Cholesky de la matrice V.
  3. Alors, le vecteur aléatoire X = m + L**T suit la loi multinormale de moyenne m et de variance-covariance V

(on convient dans cette dernière relation d'identifier chaque élément de avec la matrice colonne de ses composantes en base canonique).

Le calcul de l'intégrale de Gauss

On trouvera ce calcul (utilisant une intégrale double) dans l'article sur l'intégrale de Gauss.