Loi forte des grands nombres

Une loi forte des grands nombres est une loi mathématique selon laquelle la moyenne des n premiers termes d'une suite de variables aléatoires converge presque sûrement vers une constante (non aléatoire), lorsque n tend vers l'infini. Lorsque ces variables ont même espérance, par exemple lorsqu'elles ont toutes même loi, cette limite constante est l'espérance commune à toutes les variables aléatoires de cette suite. La loi forte est vérifiée sous diverses conditions de dépendance et d'intégrabilité portant sur les variables aléatoires de la suite.

Les exemples les plus célèbres concernent la proportion de résultats pile ou face lors des n premiers lancers d'une série potentiellement infinie de lancers (cette proportion converge presque sûrement vers 0,5), ou la proportion de chiffres 0, 1, 2, ..., 8 ou 9 dans le développement décimal d'un nombre réel tiré au hasard. La première version de la loi forte des grands nombres est due à Émile Borel, qui démontre ainsi, en 1909[1], le théorème des nombres normaux.

Énoncé généralModifier

Le principe de la loi forte des grands nombres est que sous certaines conditions (sur la dépendance, sur l'homogénéité et sur les moments) la moyenne d'une suite de variables aléatoires   converge presque sûrement vers la même limite (constante) que l'espérance de la moyenne. En particulier, l'adjectif « fort » fait référence à la nature de la convergence établie par ce théorème : il est réservée à un résultat de convergence presque sûre. Par opposition, la loi faible des grands nombres, établie par Bernoulli, est un résultat de convergence en probabilité, seulement. Soit :

Principe général —   

Il existe différents théorèmes selon le type d'hypothèses faites sur la suite  [2] :

  • observations indépendantes et identiquement distribuées,
  • observations indépendantes et non identiquement distribuées,
  • observations dépendantes et identiquement distribuées.

Observations indépendantes et identiquement distribuéesModifier

Loi forte des grands nombres (Kolmogorov, 1929) — Si   est une suite de variables aléatoires indépendantes identiquement distribuées, on a équivalence entre :

(i)  
(ii) la suite   converge presque sûrement.
De plus, si l'une de ces deux conditions équivalentes est remplie, alors la suite   converge presque sûrement vers la constante  

C'est la première loi forte à avoir été démontrée avec des hypothèses optimales. Pour la démontrer, il fallait définir rigoureusement le concept de convergence presque sûre, ce qui a amené Kolmogorov à considérer les probabilités comme une branche de la théorie de la mesure, un saut conceptuel dont Kolmogorov prouvait ainsi l'efficacité. La théorie moderne des probabilités s'est construite à partir du travail fondateur de Kolmogorov sur la loi forte des grands nombres. La loi forte des grands nombres est aussi un ingrédient important dans la démonstration d'autres lois fortes des grands nombres, comme le théorème de Glivenko-Cantelli, la LFGN pour les processus de renouvellement, ou la LFGN pour les chaînes de Markov. C'est bien du théorème dû à Kolmogorov que l'on parle lorsqu'on dit « la loi forte des grands nombres », les autres théorèmes n'étant que des lois fortes des grands nombres. Ce théorème est aussi intéressant parce qu'il aboutit à une conclusion plus forte : il établit l'équivalence entre l'intégrabilité de la suite et sa convergence, alors que les autres théorèmes fournissent seulement des implications, sans leurs réciproques. Dans le cas où les termes de la somme sont des variables de Bernoulli, la loi forte des grands nombres a été établie par Émile Borel en 1909. D'autres versions de la loi forte des grands nombres ont succédé à la version due à Borel, jusqu'à la version définitive de Kolmogorov.

Observations indépendantes et non-identiquement distribuéesModifier

Théorème de Markov — Soit   une suite de variables aléatoires indépendantes d'espérance finie  . S'il existe   tel que

 

alors

 

Pour pouvoir relâcher l'hypothèse d'équidistribution, on est amené à faire une hypothèse plus forte sur l'intégrabilité.

Observations dépendantes et identiquement distribuéesModifier

Théorème ergodique — Soit   une suite de variables aléatoires stationnaire ergodique avec   et d'espérance identique finie  . Alors

 

Loi forte des grands nombres de KolmogorovModifier

La moyenne empirique d’une suite de variables aléatoires indépendantes, identiquement distribuées, et intégrables, converge presque sûrement vers leur moyenne mathématique (ou espérance).

Autres formulationsModifier

On note souvent :

 

Ainsi l'énoncé devient

Théorème — Pour une suite   de variables aléatoires indépendantes et identiquement distribuées, le fait que   soit une suite convergente presque-sûrement est équivalent au fait que  . De plus, si l'une de ces deux conditions équivalentes est remplie, on a :

 

Énoncé usuel de la loi forteModifier

L'énoncé ci-dessous est la forme habituelle de la loi forte des grands nombres, et est une conséquence directe (une forme affaiblie) du théorème donné plus haut :

Théorème — Soit une suite   de variables aléatoires indépendantes et de même loi, intégrables. Alors

 

RemarquesModifier

  • En statistiques,   ou bien   est appelée moyenne empirique des  , et est souvent notée  .
  • On peut formuler l'hypothèse   sous différentes formes :
    •  ,
    •  ,
  • ou bien encore, puisque les   ont toutes même loi,
    •  ,
    •  ,
    •  .

Démonstration de la loi forte de KolmogorovModifier

1re étape de la démonstration : troncatureModifier

On suppose tout d'abord que les variables   sont centrées. On n'abandonnera cette hypothèse qu'à la toute dernière étape de la démonstration. On pose

 

et

 

Dans cette section on démontre que

Proposition 1. — Soit une suite   de variables aléatoires indépendantes et de même loi, intégrables. Alors (la loi forte des grands nombres)

 
est équivalente à
 

Dans les sections suivantes on va donc démontrer que

 

L'idée est que plus les variables concernées sont intégrables, i.e. plus la queue de distribution   décroît rapidement, plus il est facile de démontrer la loi forte des grands nombres à l'aide du lemme de Borel-Cantelli. Ainsi il est facile de démontrer une forme affaiblie de la loi forte des grands nombres, par exemple sous l'hypothèse que les variables   sont indépendantes, identiquement distribuées et bornées, auquel cas   est nulle pour   assez grand, ou bien sous l'hypothèse, moins brutale, que les variables   sont indépendantes et identiquement distribuées et possèdent un moment d'ordre 4, auquel cas

 .

Ici, en tronquant les  , Kolmogorov s'est ramené à des variables   bornées et indépendantes, mais qui n'ont pas même loi.

2e étape de la démonstration : recentrageModifier

Les   ont beau être centrées, cela n'entraîne pas que les   soient centrées, sauf si on suppose, par exemple, que les   sont symétriques, c'est-à-dire sauf si   a même loi que  . Par exemple, si  , alors, dès que     n'est pas centrée. Il est commode, pour la suite, de centrer les   : on pose

 

et

 

Alors

Proposition 2. — Soit une suite   de variables aléatoires indépendantes et de même loi, intégrables. Alors

 
est équivalent à
 

3e étape : Inégalité de KolmogorovModifier

C'est l'étape où Kolmogorov utilise l'hypothèse d'indépendance (et, sans le dire, la notion de temps d'arrêt). Par contre, l'Inégalité de Kolmogorov ne requiert pas des variables de même loi.

Inégalité de Kolmogorov. — Soit une suite   de v.a.r. indépendantes et centrées. Posons

 

Alors, pour tout  ,

 

4e étape : Convergence de séries de variables aléatoiresModifier

L'inégalité de Kolmogorov est, avec le lemme de Borel-Cantelli, l'ingrédient essentiel de la preuve de la proposition suivante :

Proposition 3. — Soit une suite   de variables aléatoires indépendantes et centrées. Si

 

alors la suite   est presque sûrement convergente, ou bien, de manière équivalente, la série   est presque sûrement convergente.

5e étape : Lemme de KroneckerModifier

Lemme de Kronecker. — Soit une suite   de nombres strictement positifs, décroissante vers 0. Si   est une série convergente, alors

 

Pour conclure sa démonstration, Kolmogorov utilise le lemme de Kronecker avec  , voir section suivante.

6e étape : Conclusion dans le cas de variables centréesModifier

Lemme 1. — Avec les notations de l'étape « recentrage », on a

 

Du lemme 1 et de la Proposition 3, on déduit que, presque sûrement,

 

puis, grâce au lemme de Kronecker, on déduit que, presque sûrement,

 

ce qui est équivalent à la loi forte des grands nombres (pour des variables centrées), comme on l'a vu aux étapes « troncature » et « recentrage ».

7e étape : décentrageModifier

Si on ne suppose plus les   centrées, mais seulement indépendantes, identiquement distribuées et intégrables, on pose

 

et, les   étant centrées, indépendantes, identiquement distribuées et intégrables, la conclusion des étapes précédentes est que

 

Mais

 

Donc

 

C.Q.F.D.

RéciproqueModifier

Supposons que l'ensemble Ωc défini par

 

est de probabilité 1. Notons   la limite de la suite ci-dessus, lorsqu'elle est définie, i.e. lorsqu'ω appartient à Ωc. L'ensemble Ωc est inclus dans l'ensemble suivant

 

puisque, lorsque ω appartient à Ωc, on a

 

Ainsi, l'ensemble Ω0 lui aussi est de probabilité 1. Posons

 .

La limite supérieure des An est disjointe de l'ensemble Ω0 , donc elle est de probabilité nulle. En vertu de la loi du zéro-un de Borel, on en déduit, puisque les événements An sont indépendants, que

 

Par ailleurs, en toute généralité, comme on l'a vu lors de la première étape,

 

Notes et référencesModifier

  1. Émile Borel, « Les probabilités dénombrables et leurs applications arithmétiques », Rendiconti del Circolo Matematico di Palermo, vol. 27, no 1,‎ , p. 247-271 (ISSN 0009-725X et 1973-4409, DOI 10.1007/BF03019651, lire en ligne).
  2. Classification et notation reprise de White (1984).

Voir aussiModifier

Articles connexesModifier

RéférencesModifier

Liens externesModifier