Lemme de Neyman-Pearson

Lemme de Neyman-Pearson

Type	Théorème
Inventeurs	Jerzy Neyman, Egon Sharpe Pearson
Nommé en référence à	Jerzy Neyman, Egon Sharpe Pearson
Formule	$\Lambda (x)={\frac {L(x\mid \theta _{0})}{L(x\mid \theta _{1})}}\leq \eta$

En statistique, selon le lemme de Neyman-Pearson, lorsque l'on veut effectuer un test d'hypothèse entre deux hypothèses H₀ : θ = θ₀ et H₁ : θ = θ₁, pour un échantillon $\mathbf {x} =(X_{1},\ldots ,X_{n})$, alors le test du rapport de vraisemblance, qui rejette H₀ en faveur de H₁ lorsque ${\frac {{\mathcal {L}}(\mathbf {x} ,\theta _{0})}{{\mathcal {L}}(\mathbf {x} ,\theta _{1})}}\leq k_{\alpha }$, où $k_{\alpha }$ est tel que

$P\left({\frac {{\mathcal {L}}({\textbf {x}},\theta _{0})}{{\mathcal {L}}({\textbf {x}},\theta _{1})}}\leq k_{\alpha }{\bigg |}H_{0}\right)=\alpha$, est le test le plus puissant de niveau $\alpha$.

Ce lemme est nommé d'après Jerzy Neyman et Egon Sharpe Pearson dans un article publié en 1933.

En pratique, la plupart du temps, le rapport de vraisemblance lui-même n'est pas explicitement utilisé dans le test. En effet, le test du rapport de vraisemblance ci-dessus est souvent équivalent à un test de la forme $T\leq t_{\alpha }$ pour une statistique $T$ plus simple, et le test est effectué sous cette forme-ci.

Démonstration

Théorème : La région de rejet $R_{0}$ optimale est définie par l'ensemble des points $\mathbf {x} =(x_{1},\ldots ,x_{n})\in \mathbb {R} ^{n}$ tels que

${\frac {{\mathcal {L}}({\textbf {x}},\theta _{0})}{{\mathcal {L}}({\textbf {x}},\theta _{1})}}\leq k_{\alpha }$

où la constante $k_{\alpha }$ est telle que $P(\mathbf {x} \in R_{0}|\theta _{0})=\alpha$. À noter qu'on a les relations suivantes :

$P\left({\textbf {D}}_{n}\in R_{0}|\theta _{0}\right)=\alpha =\int _{R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x}$

$P\left({\textbf {D}}_{n}\in R_{0}|\theta _{1}\right)=1-\beta =\int _{R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x}$

où $D_{n}=(x'_{1},\ldots ,x'_{n})$ est l'échantillon.

Démonstration :

Montrons tout d'abord que lorsque $f_{\mathcal {X}}(.;\theta )$ est une densité bornée, il existe toujours une constante $k$ telle que

$P\left({\frac {{\mathcal {L}}({\textbf {x}},\theta _{0})}{{\mathcal {L}}({\textbf {x}},\theta _{1})}}>k{\bigg |}H_{0}\right)=\alpha$.

En effet, lorsque $k=0$, cette probabilité vaut 1. D'autre part, cette probabilité décroit monotonément et continument vers zéro, lorsque $k\rightarrow \infty$. Par conséquent, il doit exister une valeur finie de $k$, appelée $k_{\alpha }$, qui satisfait l'égalité, $\forall \alpha \in ]0;1[$.

Désignons alors par $R_{0}$, le sous-ensemble de $\mathbb {R} ^{n}$ suivant,

$R_{0}\triangleq \lbrace \mathbf {x} \in \mathbb {R} ^{n}{\bigg |}{\frac {{\mathcal {L}}({\textbf {x}},\theta _{0})}{{\mathcal {L}}({\textbf {x}},\theta _{1})}}\leq k_{\alpha }\rbrace$,

et soit $R$ une autre partie de $\mathbb {R} ^{n}$, telle que $P(\mathbf {x} \in R|\theta _{0})\leq \alpha$.

Montrons que $P(\mathbf {x} \in R_{0}|\theta _{1})>P(\mathbf {x} \in R|\theta _{1})$:

${\begin{aligned}P(\mathbf {x} \in R_{0}|\theta _{1})-P(\mathbf {x} \in R|\theta _{1})&=\int _{R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x} -\int _{R}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x} \\&=\int _{R_{0}\backslash R}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x} -\int _{R\backslash R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{1})\ d\mathbf {x} \end{aligned}}$

${\text{Or }}{\mathcal {L}}(\mathbf {x} ;\theta _{1})\geq k_{\alpha }{\mathcal {L}}(\mathbf {x} ;\theta _{0}){\text{ sur }}R_{0}{\text{ et }}{\mathcal {L}}(\mathbf {x} ;\theta _{1})<k_{\alpha }{\mathcal {L}}(\mathbf {x} ;\theta _{0}){\text{ en dehors}}$

${\begin{aligned}P(\mathbf {x} \in R_{0}|\theta _{1})-P(\mathbf {x} \in R|\theta _{1})&\geq k_{\alpha }(\int _{R_{0}\backslash R}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x} -\int _{R\backslash R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x} )\\&\geq k_{\alpha }(\int _{R_{0}}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x} -\int _{R}\!{\mathcal {L}}(\mathbf {x} ;\theta _{0})\ d\mathbf {x} )\\\end{aligned}}$

La première intégrale vaut $\alpha$ par construction, la deuxième est majorée par $\alpha$, on obtient:

$P(\mathbf {x} \in R_{0}|\theta _{1})-P(\mathbf {x} \in R|\theta _{1})\geq 0$ ce qui conclut.

Liens externes

• cnx.org -- Neyman-Pearson criterion
• « Eléments de Statistiques », sur ulg.ac.be (consulté le 27 février 2024)

Voir aussi

• Puissance statistique
• Test F