Ouvrir le menu principal
Page d'aide sur l'homonymie Pour les articles homonymes, voir Indépendance.

L'indépendance est une notion probabiliste qualifiant de manière intuitive des événements aléatoires n'ayant aucune influence l'un sur l'autre. Il s'agit d'une notion très importante en statistique et en théorie des probabilités.

Par exemple, la valeur d'un premier lancer de dés n'a aucune influence sur la valeur du second lancer. De même, pour un lancer, le fait d'obtenir une valeur inférieure ou égale à quatre n'influe en rien sur la probabilité que le résultat soit pair ou impair[1] : les deux événements sont dits indépendants.

L'indépendance ou non de deux événements n'est pas toujours facile à établir.

Sommaire

Indépendance de deux événementsModifier

La définition mathématique de l'indépendance de deux événements est la suivante :

Définition — A et B sont indépendants  

La définition mathématique ci-dessus est assez peu parlante. Le lien entre le concept intuitif d'indépendance et la « formule produit » ci-dessus apparaît plus clairement si l'on introduit la notion de probabilité conditionnelle :

Définition — Si   la probabilité conditionnelle de   sachant  , notée   est définie par la relation ci-dessous :

 

En excluant les cas particuliers peu intéressants où   est improbable, i.e. dans le cas où   et où   est presque certain, i.e. dans le cas où   on peut alors reformuler la définition de l'indépendance de la manière suivante

Définition — Lorsque la probabilité de   n'est ni nulle, ni égale à  ,   et   sont indépendants si l'une des conditions suivantes, toutes équivalentes, est remplie :

 

Ainsi les événements   et   sont dits indépendants si notre pronostic sur l'événement   est le même :

  • si on sait que l'événement   s'est produit (pronostic  ),
  • si on sait que l'événement   ne s'est pas produit (pronostic  ),
  • si on ne sait rien sur le statut de l'événement   (pronostic  ).

Autrement dit,   est dit indépendant de   si notre pronostic sur l'événement   n'est affecté par aucune information concernant  , ni par l'absence d'information concernant  . On peut échanger les rôles de   et de   dans la définition utilisant les probabilités conditionnelles, à condition bien sûr d'exclure les cas particuliers peu intéressants où   est impossible, et où   est certain.

Bien que la définition utilisant les probabilités conditionnelles soit plus intuitive, elle a l'inconvénient d'être moins générale, et de ne pas faire jouer un rôle symétrique aux deux événements   et  .

Notons par ailleurs qu'un événement certain   est indépendant de tout événement   quel qu'il soit. Un événement impossible est également indépendant de tout autre événement. En particulier, un événement   est indépendant de lui-même à la condition que   soit certain, soit impossible. En effet, si l'événement   est indépendant de lui-même, on peut écrire :

 

et on en déduit que la probabilité de l'événement   vaut soit  , soit  .

Indépendance de événementsModifier

La notion d'indépendance peut être étendue à   événements, via la notion d'indépendance des tribus, mais on va plutôt donner ici deux critères plus lisibles :

Critère 1 —   événements   sont dits indépendants si et seulement si, pour toute partie   on a

 

Le nombre total de conditions à vérifier est donc le nombre de parties   possédant au moins deux éléments, à savoir :

 

L'indépendance des n événements   entraîne que

 

ce qui correspond au choix particulier   mais est une propriété beaucoup plus faible que l'indépendance. Dans le même esprit, comme on le constate dans l'exemple ci-dessous,   événements peuvent être indépendants deux à deux, ce qui correspond à vérifier la propriété pour toutes les parties   à 2 éléments, sans pour autant être indépendants :

Exemple :

On lance deux dés et on pose

  •   : le résultat du lancer du dé no 1 est pair,
  •   : le résultat du lancer du dé no 2 est pair,
  •   : la somme des résultats des 2 lancers est impaire.

On a

 

alors que, pourtant, pour   choisis arbitrairement,

 

Critère 2 —   événements   sont dits indépendants si et seulement si, pour tout choix de   on a

 

où, par convention,   et  

Indépendance des variables aléatoiresModifier

DéfinitionsModifier

Il y a plusieurs définitions équivalentes de l'indépendance d'une famille finie de variables aléatoires. On peut en particulier définir l'indépendance d'une famille de tribus, et voir ensuite l'indépendance des événements et l'indépendance des variables aléatoires comme des cas particuliers de l'indépendance des tribus. Cela permet de démontrer certains résultats généraux sur l'indépendance une seule fois, pour les tribus, puis de déduire immédiatement de ce résultat général la version « événements » et la version « variables aléatoires » (un exemple est le lemme de regroupement). Cependant, il est peut-être préférable de donner d'abord deux définitions de l'indépendance des variables aléatoires qui soient opératoires pour les applications, et quelques critères commodes.

Dans ce qui suit on considère une famille  de variables aléatoires définies sur le même espace de probabilité  , mais éventuellement à valeurs dans des espaces différents : 

Définition —   est une famille de variables aléatoires indépendantes si l'une des deux conditions suivantes est remplie :

  •  , 
  • on a l'égalité pour n'importe quelle suite de fonctions   définies sur   à valeurs dans   dès que les espérances ci-dessus ont un sens.

Les espérances ci-dessus ont un sens si les   sont mesurables, et si   est intégrable, ou si les   sont mesurables et positives ou nulles. Typiquement, dans les applications,   Dans le cas de deux variables aléatoires réelles cela donne :

Définition — Deux variables aléatoires réelles   et   sont indépendantes si l'une des deux conditions suivantes est remplie :

  •  
  • pour tout couple de fonctions boréliennes   et   dès que les espérances ci-dessous ont un sens, on a 

Les définitions précédentes traitent de familles finies de variables aléatoires, numérotées de   à   par commodité, sans que cela restreigne la généralité des énoncés : en effet, on peut toujours numéroter de   à   les éléments d'une famille finie de variables aléatoires. De plus, les définitions font jouer des rôles symétriques à chaque élément de la famille, si bien que le choix d'une numérotation ou d'une autre est sans effet sur la vérification de la définition.

L'indépendance d'une famille quelconque (éventuellement infinie) de variables aléatoires est la suivante :

Définition — Une famille quelconque   de variables aléatoires définies sur   est une famille de variables aléatoires indépendantes si et seulement si toute sous famille finie de   est une famille de variables aléatoires indépendantes (c'est-à-dire, si et seulement si, pour toute partie finie   de  ,   est une famille de variables aléatoires indépendantes).

Cas des variables aléatoires à densitéModifier

Soit une suite   de variables aléatoires réelles définies sur le même espace de probabilité 

Théorème — 

  • Si   possède une densité de probabilité   qui s'écrit sous forme "produit" :

 

où les fonctions   sont boréliennes et positives ou nulles, alors   est une suite de variables indépendantes. De plus, la fonction   définie par  

est une densité de probabilité de la variable aléatoire  

  • Réciproquement, si   est une suite de variables aléatoires réelles indépendantes de densités de probabilité respectives   alors   possède une densité de probabilité, et la fonction   définie par

  est une densité de probabilité de  

Cas des variables discrètesModifier

Dans le cas des variables discrètes, un critère d'indépendance utile est le suivant :

Cas discret — Soit   une suite de variables aléatoires discrètes, et soit   une suite d'ensembles finis ou dénombrables tels que, pour tout  ,   Alors la famille   est une suite de variables aléatoires indépendantes si, pour tout  

 
Loi uniforme sur un produit cartésien :
  • Soit   une suite d'ensembles finis, de cardinaux respectifs  , et soit   une variable aléatoire uniforme à valeurs dans le produit cartésien :
 

Alors la suite   est une suite de variables aléatoires indépendantes, et, pour chaque  , la variable aléatoire   suit la loi uniforme sur  . En effet, considérons une suite   de variables aléatoires indépendantes, chaque   étant uniforme sur l'ensemble   correspondant. Alors, pour tout élément   de  ,

 

la deuxième égalité résultant de la formule donnant le nombre d'éléments d'un produit cartésien d'ensembles, la 4e de l'indépendance des  , les autres égalités résultant de la définition de la loi uniforme. Ainsi les suites   et   ont même loi, ce qui entraîne bien que   est une suite de variables aléatoires indépendantes dont les composantes suivent des lois uniformes.

Autres critères d'indépendanceModifier

Par exemple,

Critères — Soit   et   deux variables aléatoires réelles définies sur un espace probabilisé  

  • Si, pour tout couple   de nombres réels,
 

alors   et   sont indépendantes.

  • Si   est à valeurs dans   et si, pour tout couple  
 

alors   et   sont indépendantes.

  • Bien sûr, si   et   sont à valeurs dans   et si, pour tout couple  
 

alors X et Y sont indépendantes.

Par exemple, on peut utiliser le deuxième critère pour démontrer que dans la méthode de rejet, le nombre d'itérations est indépendant de l'objet aléatoire (souvent un nombre aléatoire) engendré au terme de ces itérations.

On peut généraliser ces critères d'indépendance à des familles finies quelconques de variables aléatoires réelles, dont certaines, éventuellement, sont des variables discrètes, à valeurs dans des parties finies ou dénombrables de ℝ éventuellement différentes de  . Une démonstration de ces critères se trouve à la page « Lemme de classe monotone ».

Indépendance et corrélationModifier

L'indépendance implique que la covariance, et donc la corrélation, entre les deux variables est nulle:

Théorème — X et Y sont indépendantes  

La réciproque du théorème est fausse, comme le montre l'exemple suivant :

Exemple :

Cet exemple est tiré de Ross (2004, p. 306)

  • Soit X une variable aléatoire discrète telle que  .
  • Définissons Y en relation avec X :  
  • On calcule  .
  • On voit aussi que  .
  • donc :  .
  • Pourtant les deux variables ne sont bien évidemment pas indépendantes !

La non-corrélation entre   et   est une propriété plus faible que l'indépendance. En fait l'indépendance entre   et   est équivalente à la non-corrélation de   et de   pour tout choix de   et de   (tels que la covariance de   avec   soit définie…).

Indépendance des tribusModifier

Définition — Dans un espace probabilisé  

  • une famille finie   de tribus incluses dans   est une famille de tribus indépendantes si et seulement si
 
  • une famille quelconque   de tribus incluses dans   est une famille de tribus indépendantes si et seulement si toute sous famille finie de   est une famille de tribus indépendantes (c'est-à-dire, si et seulement si, pour toute partie finie I de J,   est une famille de tribus indépendantes).

Lien avec l'indépendance des événementsModifier

Définition —  Une famille   d'événements (c'est-à-dire d'éléments de  ) est une famille d'événements indépendants si et seulement si   est une famille de tribus indépendantes.

Comme la tribu   engendrée par   est décrite par :

 

la définition donnée dans cette section pour une famille quelconque d'événements, une fois particularisée à une famille de   événements, apparaît comme plus forte que les deux critères donnés plus haut. En effet, pour un choix approprié des événements   dans la définition

 

donnée dans cette section, on retrouve le critère 1 (choisir tantôt   tantôt   dans  ) et le critère 2 (choisir tantôt   tantôt   dans  ). Pourtant les critères 1 et 2 sont effectivement équivalents à la définition via les tribus, donnée dans cette section, mais cela mérite démonstration.

Lien avec l'indépendance des variables aléatoiresModifier

Définition —  Une famille   de variables aléatoires définies sur   est une famille de variables aléatoires indépendantes si et seulement si   est une famille de tribus indépendantes.

Comme la tribu   engendrée par une variable aléatoire   définie de   dans   est définie par :

 

la définition donnée dans cette section pour une famille quelconque de variables aléatoires, une fois particularisée à une famille de   variables aléatoires, est clairement équivalente à la définition de la section Indépendance des variables aléatoires. En effet

 

est un abus de notation pour

 

et

 

est un abus de notation pour

 

Propriétés élémentairesModifier

Propriétés — 

  • Une sous-famille d'une famille de tribus indépendantes est une famille de tribus indépendantes : si la famille   est une famille de tribus indépendantes et si   alors   est une famille de tribus indépendantes.
  • Si, pour tout   la tribu   est incluse dans la tribu   et si la famille   est une famille de tribus indépendantes, alors la famille   est une famille de tribus indépendantes.

Pour démontrer le premier point on applique la définition de l'indépendance à la famille   en spécialisant à une famille   d'événements telle que  Le second point est immédiat : il suffit d'écrire la définition de l'indépendance de la famille  

Lemme de regroupementModifier

Lemme de regroupement — Dans un espace probabilisé   soit une famille quelconque   de tribus indépendantes incluses dans   Soit une partition   de   Notons

 

la tribu engendrée par

 

Alors la famille   est une famille de tribus indépendantes.

Applications :

Le lemme de regroupement est utilisé, en probabilités, très souvent et de manière quasi-inconsciente. Citons quelques exemples :

De manière plus élémentaire,

  • dans le cas fini, si   est une famille de variables indépendantes, et si   et   sont deux fonctions quelconques (mesurables), alors, par application du lemme de regroupement,   et   sont deux variables indépendantes, car   et   forment une partition de  .

Indépendance et informationModifier

Une autre façon d'appréhender cette notion d'indépendance entre deux événements est de passer par l'information (au sens de la théorie de l'information) : deux événements sont indépendants si l'information fournie par le premier événement ne donne aucune information sur le deuxième événement.

Soit à tirer deux boules (rouge et blanche) d'une urne. Si on réalise l'expérience sans remettre la boule tirée dans l'urne, et que la première boule tirée est rouge, on peut déduire de cette information que la deuxième boule tirée sera blanche. Les deux événements ne sont donc pas indépendants.

Par contre, si on remet la première boule dans l'urne avant un deuxième tirage, l'information du premier événement (la boule est rouge) ne nous donne aucune information sur la couleur de la deuxième boule. Les deux événements sont donc indépendants.

Cette approche est notamment utilisée en analyse en composantes indépendantes.

Notes et référencesModifier

  1. En effet  

Voir aussiModifier

BibliographieModifier

  • T.-A. Banh, Calcul des probabilités, Ed. ULg, 1995.
  • A. Hyvärinen, E. Oja, Independent Component Analysis, Neural Networks, 13(4-5):411-430, 2000.
  • Sheldon M Ross, Initiation Aux Probabilités, Lausanne, Presses polytechniques et universitaires romandes, , Trad. de la 4e éd. américaine éd., p. 458
  • (en) Olav Kallenberg, Foundations of Modern Probability, Springer, coll. « Probability and Its Applications », (réimpr. 2001), 638 p. (ISBN 0-387-95313-2)

Articles connexesModifier