Filtre particulaire

Les filtres particulaires, aussi connus sous le nom de méthodes de Monte-Carlo séquentielles, sont des techniques sophistiquées d'estimation de modèles fondées sur la simulation.

Résultat d'un filtrage particulaire (courbe rouge) basé sur les données observées produites depuis la courbe bleue.

Les filtres particulaires sont généralement utilisés pour estimer des réseaux bayésiens et constituent des méthodes 'linéaires' analogues aux méthodes de Monte-Carlo par chaînes de Markov qui elles sont des méthodes 'non-linéaires' (donc a posteriori) et souvent similaires aux méthodes d'échantillonnage préférentiel.

S'ils sont conçus correctement, les filtres particulaires peuvent être plus rapides que les méthodes de Monte-Carlo par chaînes de Markov. Ils constituent souvent une alternative aux filtres de Kalman étendus avec l'avantage qu'avec suffisamment d'échantillons, ils approchent l'estimé Bayésien optimal. Ils peuvent donc être rendus plus précis que les filtres de Kalman. Les approches peuvent aussi être combinées en utilisant un filtre de Kalman comme une proposition de distribution pour le filtre particulaire.

Objectif

L'objectif d'un filtre à particule est d'estimer la densité postérieure des variables d'état compte tenu des variables d'observation. Le filtre de particules est conçu pour un modèle de Markov caché, où le système se compose de variables cachées et observables. Les variables observables (processus d'observation) sont liées aux variables cachées (state-processus) par une forme fonctionnelle connue. De même, le système dynamique décrivant l'évolution des variables d'état est également connu de façon probabiliste.

Un filtre de particules génériques estime la distribution postérieure des états cachés en utilisant le procédé de mesure d'observation. Considérez un espace d'état illustré dans le diagramme ci-dessous

${\begin{matrix}X_{0}&\longrightarrow &X_{1}&\longrightarrow &X_{2}&\longrightarrow &X_{3}&\longrightarrow &...&signal\\\downarrow &&\downarrow &&\downarrow &&...\\Y_{0}&&Y_{1}&&Y_{2}&&Y_{3}&&...&observation\end{matrix}}$

Le problème de filtrage consiste à estimer séquentiellement les valeurs des états cachés $X_{k}$ , compte tenu des valeurs du processus d'observation $Y_{0},...,Y_{k}$, à tout moment étape $k$.

Toutes les estimations bayésiennes de $X_{k}$ suivent de la densité postérieure $p(x_{k}\mid y_{0},y_{1},...,y_{k})$. La méthodologie du filtre à particules fournit une approximation de ces probabilités conditionnelles en utilisant la mesure empirique associée à un algorithme de type génétique. En revanche, l'approche d'échantillonnage Méthode de Monte-Carlo par chaînes de Markov ou d'importance modéliserait la postérieure complète $p(x_{0},x_{1},...,x_{k}\mid y_{0},y_{1},...,y_{k})$.

Le modèle d'observation du signal

Les méthodes de particules supposent souvent que $X_{k}$ et les observations $Y_{k}$ peuvent être modélisées sous cette forme :

• $X_{0},X_{1},...$ est un processus Markov sur $\mathbb {R} ^{d_{x}}$ (pour un certain $d_{x}\geqslant 1$) qui évolue en fonction de la densité de probabilité de transition $p(x_{k}|x_{k-1})$. Ce modèle est également souvent écrit de manière synthétique comme

  $X_{k}|X_{k-1}=x_{k}\sim p(x_{k}|x_{k-1})$ avec une densité de probabilité initiale $p(x_{0})$.

• Les observations $Y_{0},Y_{1},\cdots$ prennent des valeurs dans un certain espace d'état sur $\mathbb {R} ^{d_{y}}$ (pour un certain $d_{y}\geqslant 1$) et sont conditionnellement indépendantes à condition que $X_{0},X_{1},\cdots$ soient connus. En d'autres termes, chaque $Y_{k}$ dépend uniquement de $X_{k}$. En outre, nous supposons que les distributions conditionnelles pour $Y_{k}$ étant donné $X_{k}=x_{k}$ sont absolument continues, et de manière synthétique, nous avons

  $Y_{k}|X_{k}=y_{k}\sim p(y_{k}|x_{k})$

Un exemple de système avec ces propriétés est:

$X_{k}=g(X_{k-1})+W_{k}$

$Y_{k}=h(X_{k})+V_{k}$

où $W_{k}$ et $V_{k}$ sont des séquences mutuellement indépendantes avec les fonctions de densité de probabilité $g$ et $h$ connues sont des fonctions connues. Ces deux équations peuvent être considérées comme des équations d'espace d'état et ressemblent aux équations d'espace d'état pour le filtre de Kalman. Si les fonctions g et h dans l'exemple ci-dessus sont linéaires, et si $W_{k}$ et $V_{k}$ sont toutes deux gaussiennes, le Filtre de Kalman trouve la distribution de filtrage bayésienne exacte. Sinon, les méthodes basées sur le filtre de Kalman sont une approximation de premier ordre (EKF) ou une approximation de second ordre (UKF en général, mais si la distribution de probabilité est gaussienne, une approximation de troisième ordre est possible).

L'hypothèse selon laquelle la distribution initiale et les transitions de la chaîne de Markov sont absolument continues par rapport à la mesure de Lebesgue peuvent être assouplies. Pour concevoir un filtre à particules, nous devons simplement supposer que nous pouvons échantillonner les transitions $X_{k-1}\rightarrow X_{k}$ de la chaîne de Markov $X_{k},$ et calculer la probabilité Fonction $x_{k}\mapsto p(y_{k}|x_{k})$ (voir par exemple la description de la sélection de sélection génétique du filtre à particules donné ci-dessous). L'hypothèse absolument continue sur les transitions de Markov de $X_{k}$ ne sert qu'à dériver de manière informelle (et plutôt abusive) différentes formules entre les distributions postérieures en utilisant la règle de Bayes pour les densités conditionnelles.

Modélisation

Les filtres particulaires font l'hypothèse que les états $x_{k}$ et les observations $y_{k}$ peuvent être modélisées sous la forme suivante :

• La suite des paramètres $x_{0},x_{1},\dots$ forme une chaîne de Markov de premier ordre, telle que $x_{k}|x_{k-1}\sim p_{x_{k}|x_{k-1}}(x|x_{k-1})$ et avec une distribution initiale $p(x_{0})$.
• Les observations $y_{0},y_{1},\dots$ sont indépendantes conditionnellement sous réserve que les $x_{0},x_{1},\dots$ soient connus. En d'autres termes, chaque observation $y_{k}$ ne dépend que du paramètre $x_{k}$ : $y_{k}|x_{k}\sim p_{y|x_{}}(y|x_{k})$

Un exemple de ce scénario est $\left\{{\begin{matrix}x_{k}=f(x_{k-1})+v_{k}\\y_{k}=h(x_{k})+w_{k}\end{matrix}}\right.$

où à la fois $v_{k}$ et $w_{k}$ sont des séquences mutuellement indépendantes et distribuées à l'identique avec des fonctions de densité de probabilité connues et où $f(\cdot )$ et $h(\cdot )$ sont des fonctions connues. Ces deux équations peuvent être vues comme des équations de l'espace d'état et ressemblent à celles du filtre de Kalman.

Si les fonctions $f(\cdot )$ et $h(\cdot )$ étaient linéaires, et si à la fois $v_{k}$ et $w_{k}$ étaient des gaussiennes, alors le filtre de Kalman trouve la distribution de filtrage bayésien exacte. Dans le cas contraire, les méthodes à base de filtre de Kalman donnent une estimation de premier ordre. Les filtres particulaires donnent également des approximations, mais avec suffisamment de particules, les résultats peuvent être encore plus précis.

Approximation de Monte-Carlo

Les méthodes à particules, comme toutes les méthodes à base d'échantillonnages (telles que les MCMC), créent un ensemble d'échantillons qui approchent la distribution de filtrage $p(x_{k}|y_{0},\dots ,y_{k})$. Ainsi, avec $P$ échantillons, les valeurs espérées vis-à-vis de la distribution de filtrage sont approchées par : $\int f(x_{k})p(x_{k}|y_{0},\dots ,y_{k})dx_{k}\approx {\frac {1}{P}}\sum _{L=1}^{P}f(x_{k}^{(L)})$ où $x_{k}^{(L)}$ est la (L)-ième particule à l'instant $k$; et $f(\cdot )$, de la façon habituelle des méthodes Monte-Carlo, peut donner tous les données de la distribution (moments, etc.) jusqu'à un certain degré d'approximation.

En général, l'algorithme est répété itérativement pour un nombre donné de valeurs $k$ (que nous noterons $N$).

Initialiser $x_{k}=0|_{k=0}$ pour toutes les particules fournit une position de départ pour créer $x_{1}$, qui peut être utilisé pour créer $x_{2}$, qui peut être utilisé pour créer $x_{3}$, et ainsi de suite jusqu'à $k=N$.

Une fois ceci effectué, la moyenne des $x_{k}$ sur toutes les particules (ou ${\frac {1}{P}}\sum _{L=1}^{P}x_{k}^{(L)}$) est approximativement la véritable valeur de $x_{k}$.

Échantillonnage avec rééchantillonnage par importance (SIR)

L'échantillonnage avec rééchantillonnage par importance ou Sampling Importance Resampling (SIR) est un algorithme de filtrage utilisé très couramment. Il approche la distribution de filtrage $p(x_{k}|y_{0},\ldots ,y_{k})$ par un ensemble de particules pondérées : $\{(w_{k}^{(L)},x_{k}^{(L)})~:~L=1,\ldots ,P\}$.

Les poids d'importance $w_{k}^{(L)}$ sont des approximations des probabilités (ou des densités) a posteriori relatives des particules telles que $\sum _{L=1}^{P}w_{k}^{(L)}=1$.

L'algorithme SIR est une version récursive de l'échantillonnage d'importance. Comme en échantillonnage par importance, l'espérance de la fonction $f(\cdot )$ peut être approchée comme une moyenne pondérée : $\int f(x_{k})p(x_{k}|y_{0},\dots ,y_{k})dx_{k}\approx \sum _{L=1}^{P}w^{(L)}f(x_{k}^{(L)}).$

La performance de l'algorithme est dépendante du choix des distributions d'importances : $\pi (x_{k}|x_{0:k-1},y_{0:k})$.

La distribution d'importance optimale est donnée comme : $\pi (x_{k}|x_{0:k-1},y_{0:k})=p(x_{k}|x_{k-1},y_{k}).$

Cependant, la probabilité de transition est souvent utilisée comme fonction d'importance, comme elle est plus aisée de calculer, et cela simplifie également les calculs des poids d'importance subséquents : $\pi (x_{k}|x_{0:k-1},y_{0:k})=p(x_{k}|x_{k-1}).$

Les filtres à rééchantillonnage par importance (SIR) avec des probabilités de transitions comme fonction d'importance sont connues communément comme filtres à amorçage (bootstrap filters) ou algorithme de condensation.

Le rééchantillonnage permet d'éviter le problème de la dégénérescence de l'algorithme. On évite ainsi les situations où tous les poids d'importance sauf un sont proches de zéro. La performance de l'algorithme peut aussi être affectée par le choix de la méthode de rééchantillonnage appropriée. Le rééchantillonnage stratifié proposé par Kitagawa (1996) est optimal en termes de variance.

Un seul pas de rééchantillonnage d'importance séquentiel se déroule de la façon suivante :

1. Pour $L=1,\ldots ,P$, on tire les échantillons des distributions d'importances : $x_{k}^{(L)}\sim \pi (x_{k}|x_{0:k-1}^{(L)},y_{0:k})$
2. Pour $L=1,\ldots ,P$, on évalue les poids d'importance avec une constante de normalisation : ${\hat {w}}_{k}^{(L)}=w_{k-1}^{(L)}{\frac {p(y_{k}|x_{k}^{(L)})p(x_{k}^{(L)}|x_{k-1}^{(L)})}{\pi (x_{k}^{(L)}|x_{0:k-1}^{(L)},y_{0:k})}}.$
3. Pour $L=1,\ldots ,P$ on calcule les poids d'importance normalisés : $w_{k}^{(L)}={\frac {{\hat {w}}_{k}^{(L)}}{\sum _{J=1}^{P}{\hat {w}}_{k}^{(J)}}}$
4. On calcule une estimation du nombre effectif de particules comme ${\hat {N}}_{\mathit {eff}}={\frac {1}{\sum _{L=1}^{P}\left(w_{k}^{(L)}\right)^{2}}}$
5. Si le nombre effectif de particules est plus petit qu'un seuil donné ${\hat {N}}_{\mathit {eff}}<N_{thr}$, alors on effectue le rééchantillonnage :
   1. Tirer $P$ particules de l'ensemble de particules courant avec les probabilités proportionnelles à leur poids puis remplacer l'ensemble des particules courantes avec ce nouvel ensemble.
   2. Pour $L=1,\ldots ,P$ l'ensemble $w_{k}^{(L)}=1/P$.

Le terme Rééchantillonnage d'importance séquentiel (Sequential Importance Resampling) est aussi utilisé parfois pour se référer aux filtres SIR.

Échantillonnage séquentiel par importance (SIS)

L'échantillonnage séquentiel par importance ou Sequential Importance Sampling (SIS) est similaire à l'échantillonnage avec rééchantillonnage par importance (SIR) mais sans l'étape de rééchantillonnage.

Version directe de l'algorithme

La version directe de l'algorithme est relativement simple en comparaison des autres algorithmes de filtrage particulaire et utilise la composition et le rejet. Pour produire un simple échantillon $x$ à $k$ de $p_{x_{k}|y_{1:k}}(x|y_{1:k})$:

(1) Fixer p=1

(2) Créer uniformément L depuis $\{1,...,P\}$

(3) Créer un test ${\hat {x}}$ depuis sa distribution $p_{x_{k}|x_{k-1}}(x|x_{k-1|k-1}^{(L)})$

(4) Créer les probabilités de ${\hat {y}}$ en utilisant ${\hat {x}}$ depuis $p_{y|x}(y_{k}|{\hat {x}})$ où $y_{k}$ est la valeur mesurée

(5) Créer une autre uniformément u depuis $[0,m_{k}]$

(6) Comparer u et ${\hat {y}}$

(a) Si u est plus grand alors répéter depuis l'étape (2)

(b) Si u est plus petite alors sauver ${\hat {x}}$ comme $x_{k|k}^{(p)}$ et incrémenter p

(c) Si p > P alors arrêter

L'objectif est de créer P particules au pas $k$ en n'utilisant seulement que les particules du pas $k-1$. Cela requiert qu'une équation markovienne puisse être écrite (et calculée) pour créer un $x_{k}$ en se basant seulement sur $x_{k-1}$. Cet algorithme utilise la composition de P particules depuis $k-1$ pour créer à $k$.

Cela peut être plus facilement visualisé si $x$ est vu comme un tableau à deux dimensions. Une dimension est $k$ et l'autre dimension correspond au nombre de particules. Par exemple, $x(k,L)$ serait la L^ème particule à l'étape $k$ et peut être donc écrite $x_{k}^{(L)}$ (comme effectué plus haut dans l'algorithme).

L'étape (3) crée un potentiel $x_{k}$ basé sur une particule choisie aléatoirement ($x_{k-1}^{(L)}$) au temps $k-1$ et rejette ou accepte cette particule à l'étape (6). En d'autres termes, les valeurs $x_{k}$ sont calculées en utilisant les $x_{k-1}$ calculées précédemment.

Voir aussi

• filtre de Kalman, un estimateur analytique pour les distributions Gaussiennes
• estimation récursive bayésienne

Bibliographie

• Sequential Monte Carlo Methods in Practice, par A Doucet, N de Freitas et N Gordon. Publié par Springer.
• On Sequential Monte Carlo Sampling Methods for Bayesian Filtering, par A Doucet, C Andrieu et S. Godsill, Statistics and Computing, vol. 10, no. 3, p. 197-208, 2000 CiteSeer link
• Tutorial on Particle Filters for On-line Nonlinear/Non-Gaussian Bayesian Tracking (2001); S. Arulampalam, S. Maskell, N. Gordon et T. Clapp; CiteSeer link

Liens externes

• Méthodes de Monte-Carlo Séquentielles (Filtrage Particulaire) à l'Université de Cambridge
• Animations MCL de Dieter Fox