Canal binaire symétrique

Un canal binaire symétrique est un canal discretAlice transmet une suite d’éléments de l'ensemble et où la probabilité d'erreur dans la transmission d'un symbole est de , pour 0 et pour 1 (d'où la symétrie). Ce canal est sans mémoire, c'est-à-dire qu'aucune archive des messages n'est conservée.

En communication, un problème classique est d'envoyer de l'information d'une source à une destination via un canal de communication, en présence de bruit. Le codage de canal est l'ensemble des solutions à ce problème que sont les codes correcteurs.

La probabilité d'erreur sur un bit transmis d'Alice à Bob est de p
La probabilité d'erreur sur un bit transmis d'Alice à Bob est de p

Détails techniques

modifier

Définition

modifier

L'idée du canal binaire symétrique est qu'il est utile de modéliser le bruit de canal. Dans ce modèle, chaque bit de données transmis est inversé avec une probabilité   et est transmis sans erreur avec la probabilité complémentaire de  . Le paramètre   détermine (c'est-à-dire qu'il définit uniquement) le canal binaire symétrique dont il est question.

Sans perte de généralité, on peut supposer que  . En effet, si  , le message codé ne dépend pas du message d'origine et si  , on ajoute   à chaque bit du code et on est revenu au cas général.

Capacité

modifier

La capacité du canal est la quantité d'information que l'on peut y faire transiter ; elle est définie par    est la variable aléatoire en entrée du canal,   la variable aléatoire en sortie et   est l'information mutuelle. On cherche la distribution de   qui maximise la quantité d'information transmise.

Posons que   suit une loi de Bernoulli de paramètre   ;   suit alors une loi de Bernoulli de paramètre  . L'information mutuelle est donnée par :

 

  est l'entropie de Shannon de la loi de Bernoulli : elle atteint son maximum de   en  . Cet argument est obtenu lorsque  , c'est-à-dire lorsque   est uniforme. Le maximum est donc obtenu pour la loi uniforme, et la capacité du canal est :

 

Solutions

modifier

Une solution simple pour se prémunir de ce type de bruit est d'envoyer plusieurs copies de chaque bit devant être transmis : c'est le code de répétition. Rendre l'information redondante est l'idée derrière le codage de canal, bien que ces techniques puissent être beaucoup plus élaborées (voir théorie des codes).

Voir aussi

modifier