Loi uniforme continue

En théorie des probabilités et en statistiques, les lois uniformes continues forment une famille de lois de probabilité à densité. Une telle loi est caractérisée par la propriété suivante : tous les intervalles de même longueur inclus dans le support de la loi ont la même probabilité. Cela se traduit par le fait que la densité de probabilité d'une loi uniforme continue est constante sur son support.

Loi uniforme continue
de paramètres et
Image illustrative de l’article Loi uniforme continue
Densité de probabilité

Image illustrative de l’article Loi uniforme continue
Fonction de répartition

Paramètres
Support
Densité de probabilité
Fonction de répartition
Espérance
Médiane
Mode
Variance
Asymétrie
Kurtosis normalisé
Entropie
Fonction génératrice des moments
Fonction caractéristique

Elles constituent donc une généralisation de la notion d'équiprobabilité dans le cas continu pour des variables aléatoires à densité ; le cas discret étant couvert par les lois uniformes discrètes.

Une loi uniforme est paramétrée par la plus petite valeur et la plus grande valeur que la variable aléatoire correspondante peut prendre. La loi uniforme continue ainsi définie est souvent notée

Les densités associées aux lois uniformes continues sont des généralisations de la fonction rectangle en raison de leurs formes.

Caractérisation

modifier

Densité

modifier

La densité de probabilité de la loi   est une fonction porte sur l'intervalle [a, b] :

 

Fonction de répartition

modifier

La fonction de répartition de la loi   est :

 

Fonctions génératrices

modifier

Fonction génératrice des moments

modifier

La fonction génératrice des moments de la loi   est :

 

Elle permet de calculer tous les moments non centrés, mk :

 
 
 

Ainsi, pour une variable aléatoire suivant la loi   l'espérance est m1 = (a + b)/2, et la variance est m2 − m12 = (b − a)2/12.

Fonction génératrice des cumulants

modifier

Pour n ≥ 2, le n-ième cumulant de la loi uniforme continue sur l'intervalle [0, 1] est bn/n, où bn est le n-ième nombre de Bernoulli.

Propriétés

modifier

Statistiques d'ordre

modifier

Soit X1, ..., Xn un échantillon i.i.d. issu de la loi   Soit X(k) la k-ième statistique d'ordre de l'échantillon. Alors la distribution de X(k) est une loi bêta de paramètres k et n − k + 1.

L'espérance est :

 

Ce fait est utile lorsqu'on construit une droite de Henry.

La variance est :

 

Aspect uniforme

modifier

La probabilité qu'une variable uniforme tombe dans un intervalle donné est indépendante de la position de cet intervalle, mais dépend seulement de sa longueur   à condition que cet intervalle soit inclus dans le support de la loi. Ainsi, si X suit la loi   et si   est un sous-intervalle de [a, b], avec   fixé, alors :

 

qui est indépendant de x. Ce fait motive la dénomination de cette loi.

Loi uniforme standard

modifier

Le cas particulier a = 0 et b = 1 donne naissance à la loi uniforme standard, notée   Il faut noter le fait suivant : si u1 est distribué selon une loi uniforme standard, alors c'est aussi le cas pour u2 = 1 – u1.

Loi uniforme sur une partie borélienne

modifier

À toute partie A de   borélienne, dont la mesure de Lebesgue λ(A) est finie et strictement positive, on associe une loi de probabilité, appelée loi uniforme sur A, de densité de probabilité ƒ définie, pour tout   par :

 

χA est la fonction indicatrice (ou caractéristique), notée aussi 𝟙A, de l'ensemble A. La densité   est donc nulle à l'extérieur de A, mais égale à la constante 1λ(A) sur A.

Cette page traite principalement du cas particulier où d = 1 et où A est un intervalle [a, b] de  

Transport et invariance

modifier

Condition suffisante — La loi de la variable aléatoire Y = T(X), image par une transformation T d'une variable X uniforme sur une partie A de   est encore la loi uniforme sur T(A) si T est, à un ensemble négligeable près, injective et différentiable, et si, presque partout sur A, la valeur absolue du jacobien de T est constante.

Exemples de transformations respectant l'uniformité :
  • Si T est affine et bijective, alors Y suit la loi uniforme sur T(A).
  • En particulier, si T est une isométrie de   laissant A globalement invariant, alors Y a même loi que X.
  • Par exemple, une isométrie de   laisse invariante la loi uniforme sur B(O, 1], la boule unité centrée en l'origine, à condition de laisser l'origine invariante (donc de laisser B(O, 1] globalement invariante).
  • Autre exemple d'isométrie : si U est uniforme sur [0, 1], alors 1 – U l'est aussi.
  • Notons   la partie fractionnaire de   Les fonctions   et   ne sont ni injectives ni différentiables sur tout [0, 1], mais satisfont les hypothèses énoncées plus haut, avec T([0, 1[) = [0, 1[. En conséquence, si   alors   et   ont même loi que   En sortant un peu du cadre de cette page, et en notant M(x) le point du cercle trigonométrique ayant pour affixe   on peut voir M(U) comme un point tiré au hasard uniformément sur le cercle trigonométrique. Les points   et   respectivement sont alors obtenus par rotation d'angle a et par symétrie par rapport à la droite d'angle directeur πa respectivement, qui sont des isométries laissant le cercle unité globalement invariant. Donc ces points suivent aussi la loi uniforme sur le cercle unité. Cela traduit une propriété très particulière de la loi uniforme : elle est la mesure de Haar de  

Conséquence — Si la suite   est une suite de variables aléatoires indépendantes et uniformes sur [0, 1], et si   alors la suite   est une suite de variables aléatoires indépendantes et uniformes sur [0, 1].

Il peut sembler surprenant que les variables   et   par exemple, soient indépendantes, alors qu'elles dépendent toutes deux de manière cruciale des variables   et   C'est une conséquence particulière de la propriété d'invariance de la loi uniforme : par exemple, étant la mesure de Haar de   elle est idempotente pour la convolution.

Distributions associées

modifier

Le théorème suivant[1] stipule que toutes les distributions sont liées à la loi uniforme :

Théorème de la réciproque — Pour une variable aléatoire de fonction de répartition   on note   sa réciproque généralisée, définie, pour tout   par :

 

Si   désigne une variable aléatoire réelle uniforme sur   alors   a pour fonction de répartition  

Ainsi, pour obtenir des tirages (indépendants) selon la loi répartie par   il suffit d'appliquer l'inverse de   à des tirages (indépendants) uniformes sur  

Voici quelques exemples d’application de ce théorème  

  •   suit la loi exponentielle de paramètre  
  • Y = 1 – U1/n suit la loi bêta de paramètres 1 et n. Ceci implique que la loi uniforme standard est un cas particulier de la loi bêta, de paramètres 1 et 1.

On trouvera un tableau plus complet ici. Par ailleurs, l'art d'engendrer des variables aléatoires de lois arbitraires, par exemple à l'aide de variables uniformes, est développé dans Non-Uniform Random Variate Generation, de Luc Devroye, édité chez Springer, disponible sur le web[2].


Inférence statistique

modifier

Estimation de l'un des paramètres lorsque l'autre est connu

modifier

Cette section décrit l'estimation de la borne supérieure   de la distribution   au vu d'un échantillon de   individus, la borne inférieure   étant connue.

Estimation du maximum

modifier
Estimateur sans biais de variance minimale
modifier

Pour une loi uniforme sur   avec   inconnu, l'estimateur sans biais de valeur minimale (en) pour le maximum est donné par :

 

  est le maximum de l'échantillon et   la taille de l'échantillon, échantillonné sans remise (bien que cette précision n'a aucune incidence dans le cas uniforme).

On obtient cette valeur par un raisonnement similaire au cas discret. Ce problème peut être vu comme un cas simple d'estimation de l'espacement maximal (en). Il est connu sous le nom de Problème du char d'assaut allemand, par son application d'estimation maximale de la production des chars d'assaut allemands pendant la Seconde Guerre mondiale.

Estimateur par maximum de vraisemblance
modifier

L'estimateur par maximum de vraisemblance est :

 

  est la valeur maximum dans l'échantillon, qui est aussi la statistique d'ordre maximale de l'échantillon.

Estimateur par la méthode des moments
modifier

L'estimateur par la méthode des moments est :

 

  est la moyenne de l'échantillon.

Estimation du milieu

modifier

Le milieu   de l'intervalle de la loi uniforme   est à la fois la moyenne et la médiane de cette loi. Bien que la moyenne et la médiane de l'échantillon sont des estimateurs sans biais du milieu, ils ne sont pas aussi efficaces que le milieu de gamme de l'échantillon, i.e. la moyenne arithmétique du maximum et du minimum de l'échantillon, qui est l'estimateur sans biais de variance minimale du milieu (et aussi l'estimateur par maximum de vraisemblance).

Intervalle de confiance

modifier

Pour le maximum

modifier

On considère X1, X2, ..., Xn un échantillon de  L est la valeur maximum dans la population. Alors X(n) = max( X1, X2, ..., Xn ) a la densité de Lebesgue-Borel[3]  

 

  est la fonction caractéristique (ou indicatrice) de  

L'intervalle de confiance est mathématiquement incorrect, car   ne peut être résolu pour   sans information sur   On peut cependant résoudre

  pour   pour tout   inconnu mais valide ;

on peut alors choisir le plus petit   possible vérifiant la condition ci-dessus. On note que la longueur de l'intervalle   dépend de la variable aléatoire  

Estimation simultanée des deux paramètres

modifier

Cette section décrit l'estimation des deux bornes   de la distribution uniforme continue   au vu d'un échantillon de   individus.

Soient   et   les estimateurs respectifs des bornes inférieure   et supérieure   de la distribution mère, construits sur la base de l'échantillon contenant les   modalités de la variable aléatoire   issues de la distribution  

La méthode du maximum de vraisemblance aboutit à la sélection des minimum et maximum empiriques :

 

Ce couple d'estimateurs est biaisé : la probabilité qu'un  -échantillon capture le minimum   ou le maximum   permis par la distribution mère étant quasi-nulle, la moyenne d'un grand nombre d'observations sur de tels  -échantillons ne converge pas vers les bornes de ladite distribution mère :

 

La démonstration est produite plus bas.

Loi de distribution régissant ces estimateurs biaisés

modifier

Les densités de probabilité sont notées en minuscules (par ex.  ), les fonctions de répartition sont notées en majuscules (par ex.  ).

Densité de probabilité associée au couple d'estimateurs biaisés
modifier

 

Lois marginales régissant les minimum et maximum empiriques
modifier

Concernant l'estimateur de la borne inférieure  

 

Par une démonstration similaire, on obtient pour l'estimateur de la borne supérieure   :

 

Convergence de ces estimateurs

modifier

La définition de la convergence d'un estimateur est donnée dans le document référencé [4].

Concernant l'estimateur de la borne inférieure (  sur un n-échantillon) :   car aucune valeur inférieure à a ne peut être observée. Donc :

 

Une démonstration similaire s'applique pour l'estimateur de la borne supérieure.

  forme donc un couple d'estimateurs convergents.

Biais de ces estimateurs

modifier

Lorsque l'on multiplie les échantillons (de taille   donnée), la moyenne des observations ne tend pas vers le couple de bornes   de la distribution mère :

 

Ces deux estimateurs ne sont qu'asymptotiquement sans biais[4], i.e. lorsque la taille   de l'échantillon tend vers l'infini.

Recherche d'estimateurs sans biais

modifier

Le couple d'estimateurs   défini ci-dessous est sans biais[5] :

 

Le calcul de ces estimateurs (avec ou sans biais) ne nécessite pas la connaissance des paramètres   de la distribution mère.

Les lois de distribution qui régissent le couple d'estimateurs sans biais sont plus complexes à déterminer. Le document [5] donne les lois suivantes :

Densité de probabilité associée au couple d'estimateurs sans biais
modifier
 
Lois marginales régissant chacun des deux estimateurs sans biais
modifier

Sachant que la variable   admet comme support l'intervalle   :

 

Sachant que la variable   admet comme support l'intervalle   :

 

Intervalle de pari

modifier

On considère ici :

  • une loi mère uniforme   donnée et connue,
  • le couple d'estimateurs avec biais formé par le minimum   et le maximum   empiriques déterminés sur un  -échantillon.

Les estimateurs considérés sont ceux avec biais car :

  • leurs lois de distribution sont simples à manipuler ;
  • le document référencé [5] montre que construire des intervalles de pari à partir des estimateurs sans biais n'aboutit pas in fine à des intervalles plus réduits pour un niveau de confiance donné, et en explique la raison.

On cherche à connaître comment se répartissent les n-échantillons possibles formés à partir de la distribution mère  , en plaçant dans le plan   :

  • sur l'axe des abscisses, la borne inférieure   de la distribution mère et les minima empiriques des échantillons ;
  • sur l'axe des ordonnées, la borne supérieure   de la distribution mère et les maxima empiriques des échantillons.

On note :

 
 
Zone du plan où l'on peut trouver des échantillons issus de U (a,b)

La distribution mère   et la construction des estimateurs imposent la hiérarchie suivante :   Les échantillons issus de cette loi mère sont tous situés à l'intérieur du triangle rectangle formé par la droite  , la droite   et la première bissectrice (cf. figure ci-contre).

Un bon échantillon (i.e. un échantillon représentatif de sa population mère) se caractérise par :

  • un minimum empirique   proche de  
  • et un maximum empirique   proche de  

Le risque de pari   associé à un échantillon   est défini par la probabilité de trouver un échantillon plus mauvais que lui, i.e. présentant :

  • un minimum empirique supérieur ou égal à  
  • ou un maximum empirique inférieur ou égal à  
Intervalle de pari sur le minimum empirique
modifier
 
Intervalle de pari sur le minimum empirique d'un échantillon issu de U (a,b)

L'expérimentateur choisit son risque de pari  . Le risque de pari sur le minimum empirique est défini par l'équation suivante :

 

La surface de pari sur le minimum empirique au niveau de confiance   rassemble les échantillons qui vérifient :   et  .

Intervalle de pari sur le maximum empirique
modifier
 
Intervalle de pari sur le maximum empirique d'un échantillon issu de U (a,b)

De façon similaire, le risque de pari sur le maximum empirique est défini par l'équation suivante :

 

La surface de pari sur le maximum empirique au niveau de confiance   rassemble les échantillons qui vérifient :   et  .

Surface de pari sur les deux bornes
modifier

La surface de pari est celle qui capture la proportion   des échantillons formés à partir d'une population mère   donnée et connue.

 
Choix de la forme de la surface de pari, représenté dans les coordonnées réduites  

Le problème dépend de la forme que l'on aura choisi de donner à cette surface, qui peut être un carré, un triangle, un quart de cercle, ... On choisit ici un triangle rectangle, de sommet   et dont l'hypoténuse est parallèle à la première bissectrice (cf. figure ci-contre). La raison est que la densité de probabilité associée au couple  est constante le long d'un lieu  . Ceci permet de découper l'espace suivant une ligne iso-densité, minimisant ainsi la surface de pari pour capturer un effectif donné.

Les variables réduites classiques pour les distributions uniformes sont introduites afin de simplifier les calculs qui suivent :

 

Les relations de conversion du domaine réel en domaine réduit sont données par le tableau ci-dessous :

Échantillon {m ; M} à population {a ; b} donnée Représentation adimensionnée Population {a ; b} à échantillon {m ; M} donné
     
   
     
     
     
     

Exprimée dans le plan des coordonnées réduites, la surface pari au niveau de confiance   est constituée par l'intérieur du triangle rectangle de sommets :

 

La marge réduite   est reliée au risque de pari   par l'équation suivante :

 

 
Marge réduite = f (effectif de l'échantillon, risque de pari

L'équation liant la marge réduite   au risque de pari   peut être résolue par la méthode du point fixe : la suite   définie ci-dessous converge rapidement vers la solution, même avec une initialisation forfaitaire :

 
Surface pari au niveau de confiance   tracée dans le plan des coordonnées de l'expérimentateur

 

Le lieu des solutions est tracé ci-contre, en fonction de l'effectif de l'échantillon et du risque de pari  .

Replacée dans le plan des coordonnées correspondant au problème réel de l'expérimentateur, la surface pari au niveau de confiance   est constituée par l'intérieur du triangle rectangle de sommets :

 

Surface de confiance

modifier

Le point de vue est inversé par rapport à la section précédente :

  • le n-échantillon est connu, et le couple des minimum et maximum empiriques obtenus est   ;
  • on veut connaître quelles populations mères   auraient pu générer cet échantillon, au niveau de confiance   choisi par l'expérimentateur.
 
Surface de confiance au niveau de confiance   tracée dans le plan des coordonnées de l'expérimentateur

Il s'agit donc de recenser les populations mères qui contiennent l'échantillon en question dans leurs surfaces de pari respectives au niveau de confiance  .

L'intégrale calculée lors de la démonstration qui établit la surface de pari en coordonnées réduites   reste inchangée, quelles que soient les raisons qui font varier ces coordonnées réduites :

  • les variations du couple   à population mère   fixée,
  • ou bien les variations des bornes   de la population mère à échantillon   fixé

La surface de confiance est obtenue par déréduction de la surface établie en coordonnées   pour le niveau de confiance  , en cherchant   à échantillon   fixé. Cette surface de confiance est constituée par l'intérieur du triangle rectangle de sommets :

 

Applications

modifier

En statistiques, lorsqu'une valeur p (p-value) est utilisée dans une procédure de test statistique pour une hypothèse nulle simple, et que la distribution du test est continue, alors la valeur p est uniformément distribuée selon la loi uniforme sur [0, 1] si l'hypothèse nulle est vérifiée.

Obtenir des réalisations de la loi uniforme

modifier

La plupart des langages de programmation fournissent un générateur de pseudo-nombres aléatoires, dont la distribution est effectivement la loi uniforme standard.

Si u est U(0, 1), alors v = a + (ba)u suit la loi U(a, b).

Obtenir des réalisations d'une loi continue quelconque

modifier

D'après le théorème cité plus haut, la loi uniforme permet en théorie d'obtenir des tirages de toute loi continue à densité. Il suffit pour cela d'inverser la Fonction de répartition de cette loi, et de l'appliquer à des tirages de la loi uniforme standard. Malheureusement, dans bien des cas pratiques, on ne dispose pas d'une expression analytique pour la fonction de répartition; on peut alors utiliser une inversion numérique (coûteuse en calculs) ou des méthodes concurrentes, comme la Méthode de rejet.

Le plus important exemple d'échec de la méthode de la transformée inverse est la Loi normale. Toutefois, la Méthode de Box-Muller fournit une méthode pratique pour transformer un échantillon uniforme en un échantillon normal, et ce de manière exacte[6].

Des mathématiciens comme Luc Devroye ou Richard P. Stanley ont popularisé l'utilisation de la loi uniforme sur [0, 1] pour l'étude des permutations aléatoires (tailles des cycles, nombres eulériens, analyse d'algorithmes de tri comme le tri rapide, par exemple).

Construction d'une permutation aléatoire uniforme à l'aide d'un échantillon de loi uniforme

modifier

Soit   une suite de variables aléatoires i.i.d. uniformes sur [0, 1], définies sur un espace probabilisé   (par exemple, définies sur   muni de sa tribu des boréliens et de sa mesure de Lebesgue, par   ou, de manière équivalente, par  ). Pour tout entier k compris entre 1 et n, posons

 

Ainsi,   s'interprète comme le rang de   dans l'échantillon, une fois celui-ci rangé dans l'ordre croissant.

Proposition —  L'application   est une permutation aléatoire uniforme.

La proposition ci-dessus reste vérifiée si la distribution de probabilité commune aux variables   possède une densité, quelle qu'elle soit, et non pas seulement pour la densité uniforme. On peut même se contenter de variables i.i.d. dont la loi est diffuse (sans atomes) modulo une modification mineure de la démonstration. Cependant la loi uniforme est particulièrement commode pour diverses applications.

Nombres de descentes d'une permutation aléatoire, et nombres eulériens

modifier

Soit   le nombre de descentes d'une permutation   tirée au hasard uniformément dans   Bien sûr,

 

A(n,k) désigne le nombre de permutations de   possédant exactement k descentes. A(n,k) est appelé nombre eulérien. Posons

 

On a alors[7]

Théorème (S. Tanny, 1973) — De manière équivalente,

 

ou bien

 

Il en découle immédiatement un théorème central limite pour   via le théorème de Slutsky.

Notes et références

modifier
  1. Voir l'article détaillé ici.
  2. La version pdf (libre et autorisée) de (en) Luc Devroye, Non-Uniform Random Variate Generation, New York, Springer-Verlag, , 1re éd. (lire en ligne) est disponible, ainsi qu'un récit humoristique des démêlés de Luc Devroye avec son éditeur.
  3. (en) KN Nechval, NA Nechval NA, EK Vasermanis et VY Makeev, « Constructing shortest-length confidence intervals », Transport and Telecommunication, vol. 3, no 1,‎ , p. 95-103 (lire en ligne)
  4. a et b Jean-Jacques Ruch, « Statistiques : estimation », sur www.google.fr (consulté le )
  5. a b et c Christophe Boilley, « Estimation des bornes d'une loi uniforme », sur Classeur numérique de Christophe Boilley, (consulté le )
  6. Plus exactement, la méthode nécessite deux tirages indépendants U(0, 1) pour fournir deux tirages normaux indépendants.
  7. voir (en) S. Tanny, « A probabilistic interpretation of the Eulerian numbers », Duke Math. J., vol. 40,‎ , p. 717-722 ou bien (en) R.P. Stanley, « Eulerian partitions of a unit hypercube », Higher Combinatorics, Dordrecht, M. Aigner, ed., Reidel,‎ .

Articles connexes

modifier