Fonction génératrice des moments

En théorie des probabilités et en statistique, la fonction génératrice des moments d'une variable aléatoire X est la fonction M_X définie par

$M_{X}(t)=\mathbb {E} \left(\operatorname {e} ^{tX}\right)$,

pour tout réel t tel que cette espérance existe. Cette fonction, comme son nom l'indique, est utilisée afin d'engendrer les moments associés à la distribution de probabilités de la variable aléatoire X.

Définition et calcul

Si à X est associée une densité de probabilité continue f, alors la fonction génératrice des moments est donnée par

$M_{X}(t)=\int _{-\infty }^{+\infty }\operatorname {e} ^{tx}f(x)\,\mathrm {d} x$.

En introduisant dans cette équation le développement en série entière de l'exponentielle, cette expression est équivalente à :

$M_{X}(t)=\int _{\mathbb {R} }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots \right)f(x)\,\mathrm {d} x$

$=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots ,$

où la dernière égalité est obtenue par le théorème de convergence dominée, et où m_i est le i-ème moment de X.

Si la densité de probabilité n'est pas continue, la fonction génératrice des moments peut être obtenue par l'intégrale de Stieltjes :

$M_{X}(t)=\int _{\mathbb {R} }\operatorname {e} ^{tx}\,\mathrm {d} F(x)$

où F est la fonction de répartition de X.

Les expressions précédentes s'appliquent à des variables aléatoires. Dans le cas d'un vecteur aléatoire à composantes réelles, la fonction génératrice des moments est alors définie comme suit :

$M_{X}(t)=\mathbb {E} (\operatorname {e} ^{\langle t,X\rangle })$

où t est un vecteur et $\langle t,X\rangle$ est le produit scalaire.

Propriétés

• $M_{X}(-t)$ est la transformée bilatérale de Laplace de la densité de probabilité $f$.
• Si $X_{1},X_{2},\dots ,X_{n}$ est une suite de variables aléatoires indépendantes (mais non nécessairement identiquement distribuées) et $S_{n}=\sum _{i=1}^{n}a_{i}X_{i},$ où $a_{i}\in \mathbb {R}$, alors la densité de probabilité de S_n est la convolution pondérée par les a_i des densités de probabilité de chacun des X_i et la fonction de génération des moments de S_n est donnée par

  $M_{S_{n}}(t)=M_{X_{1}}(a_{1}t)M_{X_{2}}(a_{2}t)\cdots M_{X_{n}}(a_{n}t)$.

• Comme son nom le suggère, la fonction génératrice des moments est liée à la série génératrice (exponentielle) des moments. Pour que ce lien ait un sens il faut bien sûr que les moments soient tous finis et que leur série associée ait un rayon de convergence non nul. Sous ces conditions la fonction génératrice des moments est développable en série entière autour de 0 et les coefficients sont reliés aux moments. Le théorème suivant précise cette discussion.

Lien entre fonction génératrice des moments et moments — Soit $X$ une variable aléatoire réelle et $M_{X}$ sa fonction génératrice des moments. Les deux assertions suivantes sont équivalentes :

1. Il existe $\delta >0$ tel que $M_{X}(t)<+\infty$ pour tout $t\in \left]-\delta ,\delta \right[$.
2. La variable $X$ admet des moments de tout ordre finis et la série $\sum _{k=0}^{\infty }{\frac {\mathbb {E} [X^{k}]}{k!}}t^{k}$ a un rayon de convergence non nul $R>0$.

De plus si l'une des deux assertions ci-dessus est vérifiée alors

• Pour tout $t\in \left]-R,R\right[$ on a $M_{X}(t)=\sum _{k=0}^{\infty }{\frac {\mathbb {E} [X^{k}]}{k!}}t^{k}$.
• Pour tout $k\geq 0$, $M_{X}$ est $k$ fois dérivable en 0 et $\mathbb {E} [X^{k}]=M_{X}^{(k)}(0)$.

Démonstration

• 1) implique 2). Soit $t\in [0,\delta [$, en remarquant que $e^{t|x|}\leq e^{tx}+e^{-tx}$ pour tout réel $x$ on déduit que

$\mathbb {E} [e^{t|X|}]\leq M_{X}(t)+M_{X}(-t)<+\infty$.

En utilisant alors le développement de la fonction exponentielle en série entière et le théorème de Fubini-Tonelli on obtient que

$\mathbb {E} [e^{t|X|}]=\mathbb {E} \left[\sum _{k=0}^{\infty }{\frac {|X|^{k}}{k!}}t^{k}\right]=\sum _{k=0}^{\infty }{\frac {\mathbb {E} [|X|^{k}]}{k!}}t^{k}<+\infty$.

On en conclut que la série entière $\sum _{k=0}^{\infty }{\frac {\mathbb {E} [X^{k}]}{k!}}t^{k}$ est absolument convergente sur $[0,\delta [$ donc possède un rayon de convergence $R\geq \delta$.

• 2) implique 1). Montrons que la série entière $\sum _{k=0}^{\infty }{\frac {\mathbb {E} [|X|^{k}]}{k!}}t^{k}$ a un rayon de convergence $R'=R>0$. Déjà il est clair que $R'\leq R$.

On remarque que pour tout $k\geq 0$ :

$\mathbb {E} [|X|^{2k+1}]=\mathbb {E} [|X|^{2k+1}\mathbf {1} _{|X|\leq 1}]+\mathbb {E} [|X|^{2k+1}\mathbf {1} _{|X|\geq 1}]\leq 1+\mathbb {E} [X^{2k+2}]$.

Ainsi on a pour tout $t\in \left[0,R\right[$ :

$\sum _{k=0}^{\infty }{\frac {\mathbb {E} [|X|^{k}]}{k!}}t^{k}\leq e^{t}+\sum _{k=0}^{\infty }{\frac {\mathbb {E} [X^{2k}]}{(2k)!}}t^{2k}\leq e^{t}+\sum _{k=0}^{\infty }{\frac {|\mathbb {E} [X^{k}]|}{k!}}t^{k}<+\infty$.

La dernière somme est bien convergente car on sait qu'une série entière est absolument convergente dans l'intérieur de son disque de convergence. Ainsi en utilisant une fois de plus le théorème de Fubini-Tonelli on obtient que $M_{X}(t)<+\infty$. On procède de la même manière pour $t\in \left]-R,0\right]$.

Si les conditions du théorème sont satisfaites, ce dernier permet de calculer très aisément l'espérance et la variance d'une variable aléatoire dont on connaît la fonction génératrice des moments.

$\mathbb {E} (X)=M_{X}'(0)$ et

$\operatorname {Var} (X)=\mathbb {E} (X^{2})-\mathbb {E} (X)^{2}=M_{X}''(0)-[M_{X}'(0)]^{2}$.

Il faut faire attention car il est possible qu'une variable aléatoire admette des moments de tout ordre finis mais ait une fonction génératrice des moments infinie partout (excepté en 0). C'est le cas par exemple d'une variable aléatoire suivant une loi log-normale.

• Toute fonction génératrice des moments est logarithmiquement convexe.

Démonstration

L'inégalité de Hölder indique que

$\mathbb {E} [UV]\leq (\mathbb {E} |U^{p}|)^{1/p}(\mathbb {E} |V^{q}|)^{1/q}$

pour toutes variables aléatoires U et V et nombres réels p, q tels que

$1<p,q<\infty \quad {\text{ et }}\quad {\frac {1}{p}}+{\frac {1}{q}}=1$.

Soit X une variable aléatoire réelle et $0<\theta <1$. En prenant le logarithme de l'inégalité appliquée à

$U=\exp((1-\theta )\lambda _{0}X),V=\exp(\theta \lambda _{1}X),\quad p={\frac {1}{1-\theta }},q={\frac {1}{\theta }}$

on obtient l'inégalité de convexité

$\ln \mathbb {E} [\exp(((1-\theta )\lambda _{0}+\theta \lambda _{1})X)]\leq (1-\theta )\ln \mathbb {E} [\exp(\lambda _{0}X)]+\theta \ln \mathbb {E} [\exp(\lambda _{1}X)].$

Exemples

On veut calculer l'espérance de la loi exponentielle. Sa fonction génératrice des moments est donnée par :

$M_{X}(t)=\left(1-{\frac {t}{\lambda }}\right)^{-1}\,={\frac {1}{\left(1-{\frac {t}{\lambda }}\right)}}$.

En s'appuyant sur la propriété des dérivées selon laquelle $\left({1 \over f}\right)'={-f' \over f^{2}}$, on obtient :

$M_{X}'(t)\equiv {\frac {\mathrm {d} M_{X}(t)}{\mathrm {d} t}}={\frac {\mathrm {d} \left(1-{\frac {t}{\lambda }}\right)^{-1}}{\mathrm {d} t}}={\frac {\frac {1}{\lambda }}{\left(1-{\frac {t}{\lambda }}\right)^{2}}}$.

En évaluant cette dérivée en t = 0, on obtient le premier moment :

$\mathbb {E} [X]=M_{X}'(t=0)={\frac {\frac {1}{\lambda }}{\left(1-{\frac {0}{\lambda }}\right)^{2}}}={\frac {1}{\lambda }}$.

Loi de probabilité	Fonction génératrice des moments $M_{X}(t)$	Fonction caractéristique $\varphi (t)$
Loi de Dirac $\delta _{a}$	$\mathrm {e} ^{ta}$	$\mathrm {e} ^{\mathrm {i} ta}$
Bernoulli $P(X=1)=p$	$1-p+p\mathrm {e} ^{t}$	$1-p+p\mathrm {e} ^{\mathrm {i} t}$
Géométrique $(1-p)^{k-1}\,p$	${\frac {p\mathrm {e} ^{t}}{1-(1-p)\mathrm {e} ^{t}}}1\!\!1_{]-\infty ,-\ln(1-p)[}(t)$	${\frac {p\mathrm {e} ^{\mathrm {i} t}}{1-(1-p)\,\mathrm {e} ^{\mathrm {i} t}}}$
Binomiale ${\mathcal {B}}(n,p)$	$\left(1-p+p\mathrm {e} ^{t}\right)^{n}$	$\left(1-p+p\mathrm {e} ^{\mathrm {i} t}\right)^{n}$
Binomiale négative ${\mathcal {NB}}(r,p)$	$\left({\frac {p}{1-\mathrm {e} ^{t}+p\mathrm {e} ^{t}}}\right)^{r}1\!\!1_{]-\infty ,-\ln(1-p)[}(t)$	$\left({\frac {p}{1-\mathrm {e} ^{\mathrm {i} t}+p\mathrm {e} ^{\mathrm {i} t}}}\right)^{r}$
Poisson ${\mathcal {P}}(\lambda )$	$\mathrm {e} ^{\lambda (\mathrm {e} ^{t}-1)}$	$\mathrm {e} ^{\lambda (\mathrm {e} ^{\mathrm {i} t}-1)}$
Uniforme continue ${\mathcal {U}}(a,b)$	${\frac {\mathrm {e} ^{tb}-\mathrm {e} ^{ta}}{t(b-a)}}$	${\frac {\mathrm {e} ^{itb}-\mathrm {e} ^{\mathrm {i} ta}}{\mathrm {i} t(b-a)}}$
Uniforme discrète ${\mathcal {DU}}(a,b)$	${\frac {\mathrm {e} ^{at}-\mathrm {e} ^{(b+1)t}}{(b-a+1)(1-\mathrm {e} ^{t})}}$	${\frac {\mathrm {e} ^{\mathrm {i} at}-\mathrm {e} ^{\mathrm {i} (b+1)t}}{(b-a+1)(1-\mathrm {e} ^{\mathrm {i} t})}}$
Laplace ${\mathcal {L}}(\mu ,b)$	${\frac {\mathrm {e} ^{t\mu }}{1-b^{2}t^{2}}}1\!\!1_{]-{\frac {1}{b}},{\frac {1}{b}}[}(t)$	${\frac {\mathrm {e} ^{\mathrm {i} t\mu }}{1+b^{2}t^{2}}}$
Normale ${\mathcal {N}}(\mu ,\sigma ^{2})$	$\mathrm {e} ^{t\mu +{\frac {1}{2}}\sigma ^{2}t^{2}}$	$\mathrm {e} ^{\mathrm {i} t\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}$
χ² $\chi _{k}^{2}$	$(1-2t)^{-{\frac {k}{2}}}1\!\!1_{]-\infty ,{\frac {1}{2}}[}(t)$	$(1-2\mathrm {i} t)^{-{\frac {k}{2}}}$
χ² non centrée $\chi _{k}^{2}(\lambda )$	$\mathrm {e} ^{\lambda t/(1-2t)}(1-2t)^{-{\frac {k}{2}}}$	$\mathrm {e} ^{\mathrm {i} \lambda t/(1-2\mathrm {i} t)}(1-2\mathrm {i} t)^{-{\frac {k}{2}}}$
Gamma $\Gamma (k,\theta )$	$(1-t\theta )^{-k}1\!\!1_{]-\infty ,{\tfrac {1}{\theta }}[}(t)$	$(1-\mathrm {i} t\theta )^{-k}$
Exponentielle ${\mathcal {E}}(\lambda )$	$\left(1-t\lambda ^{-1}\right)^{-1}1\!\!1_{]-\infty ,\lambda [}(t)$	$\left(1-\mathrm {i} t\lambda ^{-1}\right)^{-1}$
Bêta	$1+\sum _{k=1}^{\infty }\left(\prod _{r=0}^{k-1}{\frac {\alpha +r}{\alpha +\beta +r}}\right){\frac {t^{k}}{k!}}$	${}_{1}F_{1}(\alpha ;\alpha +\beta ;\mathrm {i} \,t)\!$ (voir Fonction hypergéométrique confluente)
Normale multidimensionnelle ${\mathcal {N}}(\mathbf {\mu } ,\mathbf {\Sigma } )$	$\mathrm {e} ^{\mathbf {t} ^{\mathrm {T} }\left({\boldsymbol {\mu }}+{\frac {1}{2}}\mathbf {\Sigma t} \right)}$	$\mathrm {e} ^{\mathbf {t} ^{\mathrm {T} }\left(\mathrm {i} {\boldsymbol {\mu }}-{\frac {1}{2}}{\boldsymbol {\Sigma }}\mathbf {t} \right)}$
Cauchy $\operatorname {Cauchy} (\mu ,\theta )$	Indéterminée	$\mathrm {e} ^{\mathrm {i} t\mu -\theta |t|}$
Cauchy multidimensionnelle $\operatorname {MultiCauchy} (\mu ,\Sigma )$	Indéterminée	$\!\,\mathrm {e} ^{\mathrm {i} \mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\sqrt {\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }}}$

Relation univoque entre fonction génératrice des moments et fonction de densité

Passer de la densité à la fonction génératrice est chose aisée : il suffit d'appliquer la définition. La relation inverse semble plus ardue.

La manière la plus facile de traiter cette question est de passer par la transformation de Fourier. Il suffit pour cela de considérer la fonction des moments en t = iτ, où i est « le » nombre complexe tel que (i²=-1). On obtient ce que l'on appelle la fonction caractéristique de la variable X :

$\phi _{X}(\tau )=M_{x}(\mathrm {i} \tau )=\int \operatorname {e} ^{\mathrm {i} \tau x}f(x)\,\mathrm {d} x$.

En tant que transformée de Fourier, l'expression précédente peut être inversée :

$f(x)={\frac {1}{2\pi }}\int \operatorname {e} ^{-\mathrm {i} \tau x}\phi _{X}(\tau )\,\mathrm {d} \tau$.

La fonction génératrice des moments caractérise donc parfaitement la densité.

Voir aussi

Articles connexes

• Série génératrice
• Fonction génératrice des cumulants

Bibliographie

Sheldon Ross (trad. de l'anglais), Initiation aux probabilités [« A First Course in Probability »], Lausanne, PPUR, 2004, 458 p. (ISBN 2-88074-327-3), p. 333-344