Filtre de Bloom

Un filtre de Bloom est une structure de données. C'est une implémentation du type abstrait Ensemble.

Cette structure est probabiliste, c'est-à-dire qu'elle utilise des probabilités, et que sa correction est probabiliste. Plus précisément, lors du test de la présence d'un élément dans un ensemble, un filtre de Bloom permet de savoir :

• avec certitude que l'élément est absent de l'ensemble (il ne peut pas y avoir de faux négatif) ;
• avec une certaine probabilité que l'élément peut être présent dans l'ensemble (il peut y avoir des faux positifs).

La taille d'un filtre de Bloom est fixe et indépendante du nombre d'éléments contenus, ce qui est remarquable, et en fait une structure très compacte. L'inconvénient est toutefois qu'il y a d'autant plus de faux positifs qu'il y a d'éléments dans la structure. Le principe du filtre est le même que pour le hachage.

Elle a été inventée par Burton Howard Bloom en 1970.

Sommaire

Description

Un filtre de Bloom est une structure de donnée qui peut être décrite par ses composantes et les opérations qu'elle supporte.

Composition

Soit P l'ensemble de tous les éléments que pourraient contenir l'ensemble considéré. Par exemple, P est l'ensemble des entiers sur 32 bits, ou un ensemble de mots. Le filtre a deux composantes :

• T : un tableau booléen (on dira 0 et 1) de taille m dont chaque case est initialisée à 0. (indexé de 1 à m)
• $(h_{i})_{1\leq i\leq k}$ : k fonctions de hachage de $P\rightarrow [\![1,m]\!]$.

Opérations

Un exemple de filtre de Bloom de l'ensemble (x, y, z). Les flèches de couleurs indiquent les bits qui correspondent à cet élément. On peut tester le fait que l'élément w n'appartient pas à l'ensemble, car tous ses bits ne sont pas à 1.

L'ajout d'un élément $e\in P$ se fait en mettant à 1 chaque case d'indice $h_{i}(e)$ dans le tableau T pour i variant de 1 à k.

La requête d'un élément $e\in P$ consiste à vérifier si toutes les cases d'indices $h_{i}(e)$ (i variant entre 1 et k) sont à 1 dans le tableau T. Cette étape peut renvoyer vrai alors que l'élément est absent, c'est un faux positif.

Le retrait d'un élément n'est pas possible.

Propriétés

Espace mémoire

Le filtre de Bloom utilise un espace constant. C'est son principal intérêt.

Proportion de faux-positifs

Il est possible d'évaluer la proportion de faux-positifs en fonction de divers paramètres. Ainsi, si l'on considère une fonction de hachage qui choisit un élément de l'ensemble de manière équiprobable, et que m représente le nombre de bits dans cet ensemble, et que k représente le nombre de fonctions de hachage, alors la probabilité qu'un bit donné soit laissé à 0 par une fonction de hachage donnée vaut $f=1-{1 \over m}$.

Si l'on généralise ceci à l'ensemble des fonctions de hachage considérées, alors cette probabilité devient $f=\left(1-{1 \over m}\right)^{k}$.

Si l'on considère à présent que ce filtre reçoit n éléments (chaînes de caractères...), la probabilité qu'un bit donné vaille 0 vaut $f=\left(1-{1 \over m}\right)^{kn}$. On en déduit que la probabilité que ce bit vaille 1 est $f=1-\left(1-{1 \over m}\right)^{kn}$

Ainsi, si l'on teste la probabilité de présence d'un élément qui n'est pas dans l'ensemble, chaque position k possède la probabilité ci-dessus de valoir 1. Si l'on suppose (et cette supposition est fausse) que ces événements sont indépendants, la probabilité que tous les k vaillent 1 (déclenchant un faux-positif) découle des calculs précédents : $\left(1-\left[1-{1 \over m}\right]^{nk}\right)^{k}\approx \left(1-e^{-kn \over m}\right)^{k}$

La formule ci-dessus suppose que la probabilité que chaque bit vaille 1 est indépendante des autres bits, ce qui est faux, et peut mener à des résultats significativement différents quand ${\frac {m}{n}}$ est élevé. Au contraire, quand le rapport ${\frac {m}{n}}$ est faible, le taux d'erreur tend effectivement vers la valeur ci-dessus.

La formule exacte est significativement plus complexe, et vaut :

$P={\frac {m!}{m^{k(n+1)}}}\sum _{i=1}^{m}\sum _{j=1}^{i}(-1)^{i-j}{\frac {j^{kn}i^{k}}{(m-i)!j!(i-j)!}}$

Cette valeur peut être calculée récursivement. Cependant, peut être plus simple de faire appel à l'encadrement suivant, donné par Bose et al.  :

$\left(1-\left[1-{1 \over m}\right]^{nk}\right)^{k}<P<\left(1-\left[1-{1 \over m}\right]^{nk}\right)^{k}\times \left(1+O\left({\frac {k}{p}}{\sqrt {\frac {\ln n-k\ln p}{m}}}\right)\right)$

Utilisations

Bases de données

Ce genre de filtre permet d'éviter des appels inutiles à une très grande base de données en vérifiant tout de suite qu'une ligne recherchée n'y est pas présente. Le filtre n'étant pas parfait, la recherche inutile aura toutefois lieu dans certains cas, mais une grande partie sera néanmoins évitée, multipliant ainsi le nombre de requêtes utiles possibles à matériel donné. Cette méthode est utilisée par Google dans leur base de données distribuées, BigTable.

Inspection de paquets

Ce type de filtre est également utilisé pour réaliser de l'inspection de paquets en profondeur, en vertu des raisons citées plus haut. Leur implémentation au niveau matériel a permis de réaliser de l'inspection de paquets en profondeur à la vitesse du réseau.

Flux pair à pair

Elle permet aussi d'optimiser les flux entre pairs dans un réseau informatiques pairs à pairs, comme Gnutella.

Rendu HTML

Ce filtre est utilisé dans les moteurs de rendu HTML pour augmenter les performances des sélecteurs CSS.

Bibliographie

• Burton H. Bloom, « Space/Time Trade-offs in Hash Coding with Allowable Errors », Commun. ACM, vol. 13, n^o 7,‎ 1970, p. 422-426 (présentation en ligne)

Liens externes

• Proportion de faux-positifs suivant les paramètres d'un filtre de Bloom