Introduction générale au codage de canal

Transcription

1 Codage de canal et turbo-codes 15/9/2 1/7 Introduction générale au codage de canal Table des matières Table des matières... 1 Table des figures Introduction Notion de message numérique Chaîne de transmission numérique Codeur de source Codeur de canal L emetteur Le canal Le récepteur Le décodeur de canal Modèle de transmission utilisé en théorie de l information et codage de canal Paradigme de Shannon Canaux équivalents classiques Le canal binaire symétrique (BSC) Le canal binaire à effacement (BEC) Le canal à entrée binaire et bruit blanc additif gaussien (AWGN) Espace des signaux considérés Premiers exemples de codage de canal Code à répétition Code de parité et code produit de codes de parité... 7 Table des figures Figure 1 : Chaîne de transmission numériquesource... 2 Figure 2 : Paradigme de Shannon... 4 Figure 3 : Canal binaire symétrique... 5 Figure 4 : Canal binaire à effacement... 5 Figure 5 : Canal binaire à entrée binaire et bruit blanc additif gaussien... 6 Figure 6 : Code produit de codes de parité... 7

2 Codage de canal et turbo-codes 15/9/2 2/7 1. Introduction Le codage de canal est l une des «briques» d une chaîne de communication numérique. Le but de ladite chaîne est de transmettre un message porteur d information d une source à un destinataire, éloignés soit géographiquement (acception générale du terme transmission), soit temporellement (on parle plus souvent dans ce cas d enregistrement, et de restitution du message). L adjectif «numérique» signifie que notre message porteur d information est représenté par un message numérique. 2. Notion de message numérique Un message numérique est défini comme une suite d éléments pouvant prendre une parmi Q valeurs possibles, on appelle «alphabet» l ensemble de ces valeurs. Les éléments, qui peuvent être aussi considérés comme des variables aléatoires discrètes, sont dits Q-aires. Dans le cas particulier (et fréquent) où l alphabet est constitué uniquement de deux valeurs, notées traditionnellement et 1, les éléments sont dits binaires. Tout élément d un message Q-aire peut être représenté par une suite d éléments binaire, ce qui justifie l importance du cas binaire. Un texte est un exemple de message numérique, composés d éléments (caractères) appartement à un alphabet. Il est à noter que le message porteur d information qu émet la source n est pas nécessairement numérique par nature, ceci est même rarement le cas. Ainsi, le but de ce document est de transmettre le (peu de) savoir de l auteur au(x) lecteur(s). Le savoir est-il numérique? Le concept de message numérique étant précisé, nous pouvons maintenant aborder la présentation d une chaîne de transmission numérique. 3. Chaîne de transmission numérique Le schéma de principe d une chaîne de transmission numérique est représenté sur la figure 1, sans pour l instant aucune justification de ses différents éléments. On peut distinguer : la source de message, le milieu de transmission et le destinataire qui sont des données du problème. Le codage et le décodage de source, le codage et le décodage de canal, l émetteur et le récepteur représentent les degrés de liberté du concepteur pour réaliser le système de transmission. Nous allons maintenant décrire de façon succincte les différents éléments qui constituent une chaîne de transmission, en partant de la source de message vers le destinataire. Le message porteur d information émis par la source peut être de nature analogique (signal de parole, etc.). Dans ce cas, le signal doit être numérisé. La numérisation n est pas étudiée ici. Rappelons tout de même brièvement qu elle s effectue en deux grandes étapes : échantillonnage (qui doit respecter le théorème d échantillonnage pour garantir une représentation fidèle du signal), puis quantification de ces échantillons et représentation binaire des valeurs quantifiées. Source Codeur de source Codeur de canal Emetteur Canal Destinataire Décodeur de source Décodeur de canal Récepteur Figure 1 : Chaîne de transmission numérique 3.1. Codeur de source Le codage de source vise à la concision maximale du message, afin de minimiser les ressources nécessaires à la transmission (temps, puissance, bande passante, surface de stocage, etc.). Ce codage peut donc, pour diminuer le coût de la transmission, substituer un message aussi court que possible au message émis par la source, dans la mesure où cette substitution est réversible (i.e. que le message initial peut être exactement restitué). Le codage de source ne sera pas étudié. Indiquons simplement que ses limites théoriques sont fixées par la théorie de l information (Premier théorème de Shannon).

3 Codage de canal et turbo-codes 15/9/2 3/ Codeur de canal Le codage de canal vise quant à lui à la protection du message contre les perturbations du canal de transmission. Si les perturbations engendrées induisent une qualité de restitution (souvent mesurée quantitativement par la probabilité d erreur par bit sortant du codeur de source ou par message, trame, etc.) incompatible avec les spécifications fixées, le codage de canal se propose de transformer le message de manière à en augmenter la sûreté de transmission. Le «prix» qu il en coûte est alors un accroissement de la taille du message. Il y a donc antagonisme entre codage de source et codage de canal, l objectif du premier étant de diminuer la redondance du message de source, celui du deuxième d en ajouter dans un but de protection. Nous verrons que la théorie de l information fixe les conditions pour lesquelles cet antagonisme n est qu apparent, et la division des tâches entre codeur de source et codeur de canal, pour l instant arbitraire, justifiée L emetteur Le message numérique issu du codeur de canal, en tant que suite d éléments binaires, est une grandeur abstraite. Pour transmettre ce message il est donc nécessaire de lui associer une représentation physique, sous forme d un signal électrique. C est la première fonction de l émetteur, appelée généralement opération de modulation. Plus précisément, la modulation consiste à associer à chaque mot de n éléments binaires (n-uplet) issu du n message, un signal Si ( t), i = 1,, M = 2 de durée T = nt b. Le choix du type de signaux dépend des propriétés physiques du milieu de transmission que le signal va traverser. L émetteur assure donc aussi une fonction d adaptation du signal modulé au milieu de transmission. Parmi les autres traitements effectués par l émetteur, on peut citer le filtrage du signal modulé pour limiter sa bande. Lorsque la bande allouée à la transmission est centrée autour d une fréquence élevée, le modulateur élabore parfois un signal dont le spectre est centré autour d une fréquence dite intermédiaire plus basse, et l émetteur effectue ensuite un changement de fréquence qui permet de centrer le signal modulé autour de la fréquence souhaitée. L étape de conversion numérique/analogique intervient au cours des traitements pris en charge par l émetteur, la tendance actuelle étant de «retarder» de plus en plus cette étape. De plus en plus de systèmes effectuent la modulation en numérique jusqu à la fréquence intermédiaire. Les dernières étapes du traitement de l émetteur sont un dernier filtrage d émission (analogique, à la fréquence finale) et l amplification. Toutes ces étapes ne sont pas étudiées dans ce cours, où nous développerons un modèle équivalent Le canal Le canal, au sens des communications numériques, et comme représenté à la Figure 1, inclut le milieu de transmission (lien physique entre l émetteur et le récepteur : câble, fibre, espace libre, voire support d enregistrement), le bruit (perturbation aléatoire issue du milieu, des équipements électroniques), et les interférences (provenant des autres utilisateurs du milieu de transmission, de brouilleurs intentionnels ou non). Par la suite, aussi bien dans la présentation des résultats de la théorie de l information que dans cette introduction au codage de canal, nous utiliserons un modèle de canal plus global, incluant une partie de l émetteur et du récepteur Le récepteur Le récepteur, qui a pour fonction de reconstituer le message émis par la source à partir du signal reçu, comprend des circuits d amplification, de changement de fréquence et de démodulation (le signal est ramené en bande de base) pour les transmissions sur onde porteuse, de filtrage puis d échantillonnage à des instants caractéristiques, d égalisation (cas d un canal à bande limitée, présence d interférence entre symbole), de réduction d interférence et éventuellement de prise de décision (identification de la valeur des éléments binaires transmis à partir des échantillons. Typiquement, il s agit d un problème de détection). Nous verrons que les progrès récents du codage de canal (et en particulier l invention des turbo-codes) nécessitent le passage direct des valeurs (quantifiées, mais non binaires) des échantillons au décodeur de canal. Ces valeurs alors sont dites souples. L étude des différents organes du récepteur n est pas, elle non plus, l objet de ce cours Le décodeur de canal Plusieurs stratégies différentes peuvent être utilisées par le décodeur de canal. La première est la détection d erreurs. Le décodeur observe la séquence reçue (ferme ou souple) et détecte la présence éventuelle d erreur. Cette détection peut servir à contrôler le taux d erreur (Error Monitoring) ou à mettre en œuvre des techniques de retransmission (ARQ : Automatic Repeat Request) : le décodeur demande à l émetteur de retransmettre la séquence dans laquelle une erreur a été détectée. Il est évident que ce type de procédé nécessite une voie de retour. Cette stratégie de détection est surtout utilisée par les

4 Codage de canal et turbo-codes 15/9/2 4/7 couches transport et supérieures du modèle OSI. Les techniques employées ne seront que mentionnées, dans la mesure où il ne s agit qu un cas particulier et simple de la seconde stratégie. La deuxième est la correction d erreurs (FEC : Forward Error Correction). Elle nécessite des algorithmes beaucoup plus complexes que la simple détection, et plus de redondance dans la séquence émise. Toutefois, le milieu de transmission est utilisé de manière plus efficace. Cette stratégie sera celle principalement étudiée dans ce cours. Elle est omniprésente au niveau couche physique de tous les systèmes de transmission et d enregistrement. 4. Modèle de transmission utilisé en théorie de l information et codage de canal La théorie de l information et le codage de canal utilisent un modèle équivalent beaucoup plus simple que celui de la Figure 1. La description des messages émis, de leur transformation par les appareillages en signaux susceptibles de propagation, ainsi que la description des perturbations et les moyens de les combattre, relève de la théorie des signaux et d autres domaines des communications numériques Paradigme de Shannon Messages et signaux ne sont que les véhicules d une entité plus fondamentale, invariante dans ces transformations : l information. La théorie de l information en propose une mesure quantitative. L invariance de l information par rapport aux messages et signaux qui lui servent de support entraîne qu il est possible de choisir, parmi l ensemble des messages équivalents représentant la même information, ceux qui possèdent certaines propriétés souhaitables a priori. C est en particulier le rôle du codage de canal. Nous voyons aisément que le point de vue de la théorie de l information est beaucoup plus fondamental que celui des communications numériques, dont l objet est pragmatique. Le codage de canal se situe à la rencontre de ces deux domaines, dans la mesure où ses limites sont fixées par la théorie de l information, et ses applications sont parties intégrante d un grand nombre, sinon la totalité, des systèmes de communications numériques. Le modèle utilisé communément par la théorie de l information, est appelé paradigme 1 de Shannon et est représenté à la Figure 2. Message Source Canal Destinataire Codeur de canal perturbations Décodeur de canal Figure 2 : Paradigme de Shannon Le bloc source contient la source initiale du message, ainsi qu un codeur de source idéal : le message issu de la nouvelle source généralisée ne contient plus aucune redondance. Tous les symboles successifs sont indépendants, et tous les symboles de l alphabet apparaissent avec une égale probabilité. Le canal équivalent englobe l émetteur, le canal et le récepteur. Un canal équivalent fréquent est le canal binaire symétrique (voir Figure 3). Il peut représenter de manière simplifiée un modulateur antipodal (symboles de valeur ± A en bande de base associés à la valeur d un bit issu de la source généralisée), appelé BPSK (binary phase shift eying) en Anglais, tous les autres les organes de l émetteur, un canal de transmission, et le récepteur qui contient un organe de prise de décision. Le destinataire généralisé est constitué du décodeur de source idéal associé au codeur, puis du destinataire idéal. Le rôle du codeur de canal, introduit entre la source généralisée et le canal, est d adapter le message issu d icelle aux caractéristiques du canal, afin d idéalement pouvoir considérer l ensemble codeur de canal / canal / décodeur de canal comme un canal sans erreurs vis-à-vis de la source et du destinataire Canaux équivalents classiques Voici quelques canaux classiques, utilisés par théorie de l information, et le codage de canal. 1 Le mot peu usuel de paradigme désigne le modèle général d une certaine structure, indépendamment des objets interchangeables dont elle décrit les relations.

5 Codage de canal et turbo-codes 15/9/2 5/ Le canal binaire symétrique (BSC) Ce canal, Binary Symmetric Channel en Anglais, est le plus simple que l on puisse imaginer. Les alphabets d entrée et de sortie sont l un et l autre binaire. Ce canal est caractérisé par sa probabilité d erreur p, qui est la même, quel que soit le symbole ou 1 émis, d où son caractère symétrique. Il est stationnaire, et les symboles successifs sont affectés d erreurs mutuellement indépendantes. 1-p p p p Figure 3 : Canal binaire symétrique Le canal binaire à effacement (BEC) Ce canal, Binary Erasure Channel, est binaire en entrée, mais ternaire en sortie. Aux deux symboles et 1 est adjoint un troisième, noté ε. Il n'y a pas d'erreur en ce sens qu'une transition de vers 1 ou de 1 vers est impossible. Les seules transitions possibles entre symboles différents vont de ou de 1 vers ε, avec la même probabilité conditionnelle q. Aucune décision quant à l'entrée du canal n'est prise lorsque la sortie est ε, ce qui correspond bien à l'idée d'un effacement. 1-q q ε q q Figure 4 : Canal binaire à effacement Le canal à entrée binaire et bruit blanc additif gaussien (AWGN) Ce canal est d une importance capitale dans l étude des techniques de codage de canal, et en particulier celles mettant en œuvre un décodeur à entrée souple (absence d organe de détection en sortie du récepteur). Il correspond aux hypothèses suivantes. La source est supposée binaire et idéale. A chaque élément binaire de la source, le modulateur associe un signal antipodal (modulation BPSK). La chaîne de transmission ne distord pas les signaux mais leur ajoute un bruit 2 indépendant du signal, stationnaire, gaussien et blanc, de variance σ, liée au paramètre N 2 est la densité spectrale bilatérale du bruit présent lors de la transmission sur fréquence porteuse. Le démodulateur est supposé optimal, à filtre adapté au corrélateur. On considère le canal compris entre l'entrée du modulateur et la sortie du filtre adapté, échantillonnée aux instants optimaux. Les symboles d'entrée X de ce canal sont donc binaires, mais les symboles de sortie Y prennent leurs valeurs sur la droite réelle R. Il est à noter qu un canal à entrée binaire et bruit blanc additif gaussien se transforme en canal BSC si un organe de détection prend une décision sur les échantillons reçus en amont du décodeur de canal.

6 Codage de canal et turbo-codes 15/9/2 6/7 X Y 1 Figure 5 : Canal binaire à entrée binaire et bruit blanc additif gaussien 5. Espace des signaux considérés Dans toute la suite de ce document, nous souhaitons nous affranchir de l émetteur et du récepteur, pour se focaliser sur le codage de canal. A une exception près, nous supposerons toujours une source binaire idéale. La transmission sera supposée, sans perte de généralité, sur porteuse. Plutôt que de considérer les signaux modulés en sortie de l émetteur, nous travaillerons avec leur équivalent en bande de base. Le modulateur et le démodulateur seront supposés parfaitement accordés, avec une estimation parfaite de la fréquence et de la phase au récepteur. Les filtres d émissions et de réceptions vérifient le critère de Nyquist (pas d interférence entre symbole) et sont normalisés. Les instants d échantillonnage sont optimaux. Les modulations étudiées seront principalement la BPSK, et de manière plus générale les modulations de phase et d amplitude, à l exception des modulations de fréquence, qui nécessitent un formalisme particulier, hors de propos ici. 2 Toutes ces hypothèses nous permettent de représenter les signaux modulés (qui appartient à l espace L ) par une constellation de points dans l espace complexe. Ainsi, les éléments binaires de la source et 1 seront associés par la modulation BPSK aux points (-A,) et (+A,) en bande de base par la modulation BPSK. Sous les mêmes conditions, le bruit blanc additif gaussien présent lors de la transmission sur porteuse se modélise par un bruit complexe circulaire de variance complexe 2N, soit N par composante en phase ou en quadrature, ou suivant toute autre projection. Le paramètre classique en codage représentant le rapport signal à bruit est le facteur E b N, où Eb représente l énergie par bit d information (i.e. issu de la source idéale) sur porteuse. 6. Premiers exemples de codage de canal Nous présentons ici deux exemples simples de codes de canal, nous permettant d introduire les notations usuelles Code à répétition Considérons un canal binaire symétrique de probabilité d erreur p = 1 3. On souhaite transmettre par ce canal 6 un message issu d une source binaire idéale avec une probabilité d erreur binaire P 3.1 eb. Un moyen intuitif de protection du message consiste à répéter n fois chacun de ses éléments binaires. Ainsi, à chaque bit issu de la source, le code associe un mot de code de taille n. Le décodage consiste à prendre en sortie du canal une décision majoritaire. Ce code de canal a : un rendement R : R = 1 n Le rendement caractérise la redondance introduite par le code de canal. une longueur n. La longueur caractérise la taille des mots de code. une dimension : = 1 La dimension indique le nombre de bits d information représentés par un mot de code. Ce code est appelé le code à répétition. Prenons n = 3. Notre procédé de décodage majoritaire produira une erreur de décision si deux ou trois parmi les trois symboles représentant le mot de code ont subi une erreur lors de leur transmission sur le canal BSC. Nous avons donc : P eb = 3p ( 1 p) + p = 3p 2 p = Ce code est rudimentaire, et des résultats comparables auraient pu être obtenus au prix d une redondance bien moindre (donc avec un rendement bien plus élevé) en utilisant des codes plus élaborés.

7 Codage de canal et turbo-codes 15/9/2 7/7 Exercice : calculer la probabilité d erreur par bit sur un canal BSC correspondant à un décodage majoritaire d un code à répétition de longueur n Code de parité et code produit de codes de parité Un code de parité est un code de paramètre n=+1, et donc de rendement R = +1 Le bit supplémentaire b n ajouté aux bits d information issus de la source d iceux. b = n b i i= 1 mod 2 b b 1, est la somme modulo 2 Ce code possède un rendement bien plus élevé que le code à répétition, mais ne possède pas de capacité de correction. L ajout d une erreur par le canal peut être détecté, mais non corrigé par le décodeur. L ajout de deux erreurs par le canal ne peut pas être détecté, puisque le mot reçu est un mot de code (l équation de parité est vérifiée). Cette notion de nombre d erreurs minimal à ajouter à un mot de code pour en obtenir un autre est capitale et prendra tout son sens lors de l étude des codes linéaires en bloc. Il s agit de la distance minimale du code. Dans le cas présent, d=2. Les paramètres du code de parités sont : (n=+1,,2). Le code produit de codes de parités (+1,,2) est un code de paramètres ( + 1),,4) 2 2. Il est construit de la manière suivante. Les bits d informations issus de la source sont placés dans une matrice carrée de taille. Un code de parité est appliqué à chacune des lignes pour former une matrice de taille ( + 1). Un code de parité est alors appliqué à chacune des colonnes de cette nouvelle matrice pour former une matrice de taille ( + 1) ( + 1) qui représente le mot de code. Ce processus est illustré par la Figure 6. bits d information +1 parités sur les lignes parités sur les colonnes +1 Figure 6 : Code produit de codes de parité Exercice : montrer que le code produit de codes de parité est le même quel que soit l ordre considéré lors codage (lignes puis colonnes ou colonnes puis lignes). Exercice : montrer que le code produit de codes de parité peut corriger une erreur, et certains motifs de deux erreurs. Préciser lesquels. Montrer que le code produit de codes de parité peut corriger trois effacements. Exercice : montrer que le code produit de codes (n,,d) est un code de distance minimale.