Compression et codage : méthodes élémentaires

Transcription

1 Compression et codage : méthodes élémentaires Nikola Stikov/Yves Goussard ELE mars 2016 Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

2 Plan 1 Notions fondamentales Introduction Notion de redondance Modèle de codage et normes Notion d information 2 Codage de source Codage de Huffman Codage de Golomb Codage arithmétique Codage de Lempel-Ziv-Welch 3 Redondance spatiale Codage par longueur de plage (RLC) Codage par plans de bits (BPC) Codage par symboles Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

3 Notions fondamentales Introduction Introduction Nécessité de compresser les images Prévalence des images ou des séquences d images (loisirs, industrie, santé,...) Problème de taille : 1 film de 2h00, basse résolution = 224 Go Compression nécessaire pour Stocker les images Transmettre les images (de la télécopie à internet) Exemples Dossier médical informatisé (PACS) Archives historiques Blogs, Facebook,... Photographie numérique Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

4 Notions fondamentales Notion de redondance Notions fondamentales Définitions Image originale : b bits ; image compressée : b bits Taux de compression : C = b/b Redondance relative : R = 1 1/C Codage : utilisation de la redondance Redondance de source Redondance spatiale Information non pertinente Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

5 Notions fondamentales Notion de redondance Redondance de source Principe Image : suite de symboles indépendants Exemple de codage à longueur variable : L = l(r k )p(r k ) k L = 1, 81 bits Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

6 Notions fondamentales Notion de redondance Redondance spatiale Exemple : codage par longueur de plage (RLC) Codage de la longueur et de la valeur de chaque segment horizontal d intensité constante 512 octets : C = 128! Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

7 Notions fondamentales Notion de redondance Information non pertinente Exemple : image quasi-homogène Compression avec perte : une seule valeur. C = 256 2! Compression sans perte : redondance spatiale et redondance de source Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

8 Notions fondamentales Modèle de codage et normes Structure d un système de codage Principales étapes Codage RLC Possible ajout de redondance lors de la transmission ou du stockage Quelle transformation (mapper)? Quel codage de source (symbol coder)? Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

9 Notions fondamentales Modèle de codage et normes Normes, conteneurs et formats (1) Réponses toutes faites Format de fichier Conteneur Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

10 Notions fondamentales Modèle de codage et normes Normes, conteneurs et formats (2) Réponses toutes faites Norme de compression En pratique Transformation : doit être adaptée au type d image (de redondance spatiale) à compresser Codeur de symboles : mesures de qualité (en fonction de la probabilité des différents symboles...) Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

11 Notions fondamentales Notion d information Arrière-plan mathématique Notion d information Information contenue par un évènement E : I (E) = log 2 p(e) (bits) Entropie d une source (symboles indépendants) : H = E [I (r)] = p(r k ) log 2 p(r k ) k Premier théorème de Shannon : H limite inférieure de L Fidélité (codage avec perte) Attention aux hypothèses sur la source! ˆf (x, y) : image résultant du codage de f (x, y) Mesure la plus courante : SNR = ˆf (x, y) 2 ˆf (x, y) f (x, y) 2 Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

12 Codage de source Codage de Huffman Codage de Huffman (1) Principe Probabilité de chaque symbole connue Codage de longueur variable (probabilité, longueur ) Exemple de construction 0,35 0,20 0,15 0,1 0,08 0,05 0,04 0,03 r 0 r 1 r 2 r 3 r 4 r 5 r 6 r ,35 0,2 0,15 0,1 0,08 0,07 0 0,05 1 0,35 0,2 0,15 0,12 0,1 0 0,081 0,35 0,2 0,18 0,150 0,121 0,35 0,27 0,2 0 0,181 0,38 0,350 0,271 0,62 0 0,38 1 Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

13 Codage de source Codage de Huffman Codage de Huffman (2) Résultat de la construction Propriétés r 0 : 00 r 4 : 111 r 1 : 10 r 5 : 0111 r 2 : 010 r 6 : r 3 : 110 r 7 : Séparabilité pas de nécessité de coder la séparation entre symboles Quasi-optimalité au sens de la théorie de l information. En pratique p(r k )? Indépendance entre symboles? Quantités à transmettre : symboles et leur probabilité symboles codés Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

14 Codage de source Codage de Golomb Codage de Golomb (1) Principe Codage de valeurs entières positives Choix d un diviseur m Codage d une valeur x par son quotient q et son reste r quotient : codage unaire reste : codage de longueur variable détectable sans ambiguïté (voir manuel) Exemple : m = 5 4 < m 8 : k = 3. Reste codé sur 2 ou 3 bits c = 2 k m = 3 restes c : codés par r + c sur k bits restes < c : codés directement sur k 1 bits Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

15 Codage de source Codage de Golomb Codage de Golomb (2) Codage du reste (m = 5) Propriétés Reste Valeur codée Nombre de bits Code Séparabilité pas de nécessité de coder la séparation entre symboles Quasi-optimalité pour des distributions exponentielles Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

16 Codage de source Codage de Golomb Codage de Golomb (3) Extensions Distributions quelconques (ordonnancement par probabilités décroissantes) Codage de Golomb exponentiel ; analogie : représentation en virgule flottante vs. virgule fixe En pratique Hypothèses sur la distribution des symboles? Quantités à transmettre : valeur de m au besoin, table d ordonnancement des symboles symboles codés Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

17 Codage de source Codage arithmétique Codage arithmétique (1) Principe Probabilité de chaque symbole connue Ordonnancement lexicographique et codage de suites de symboles (messages) par la variable aléatoire uniformément répartie sur [0, 1] équivalente Exemple : 4 symboles Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

18 Codage de source Codage arithmétique Codage arithmétique (2) Exemple : message de 5 symboles Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

19 Codage de source Codage arithmétique Codage arithmétique (3) Propriétés Quasi-optimal Nécessité de choisir une représentation arithmétique appropriée de l intervalle [0, 1] Nécessité de transmettre des codes de fin de messages Extension Probabilités dépendant du contexte (probabilités conditionnelles) En pratique Probabilité des symboles et granularité de la représentation de [0, 1]? Quantités à transmettre : probabilité de chaque symbole code de chaque message code de fin de message Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

20 Codage de source Codage de Lempel-Ziv-Welch Codage de Lempel-Ziv-Welch (LZW) (1) Principe Codes de longueur fixe Construction récurrente d un dictionnaire (mot : suite de symboles) au codage et au décodage Exemple : image (4, 4) sur 256 niveaux Solution : voir manuel Décodage : exercice Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

21 Codage de source Codage de Lempel-Ziv-Welch Codage de Lempel-Ziv-Welch (LZW) (2) En pratique Quantités à transmettre : Liste des symboles Taille du dictionnaire Technique de gestion des débordements Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

22 Redondance spatiale Codage par longueur de plage (RLC) Codage par longueur de plage (RLC) (1) Principe Utilisation de la redondance spatiale Description d une image par : la longueur d un segment d intensité constante dans une direction de balayage de l image la valeur de l intensité Très efficace pour les images binaires (norme en télécopie) Exemple : format BMP Mode codé : 2 octets (longueur du segment, valeur de l intensité) Mode absolu : Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

23 Redondance spatiale Codage par longueur de plage (RLC) Codage par longueur de plage (RLC) (2) En pratique Relativement peu efficace pour les images non binaires Peut conduire à un accroissement de la taille des images! Peut être associé à un codage de source Utilisé dans les normes CCITT Codeur-décodeur Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

24 Redondance spatiale Codage par plans de bits (BPC) Codage par plans de bits (BPC) (1) Principe Décomposition de chaque pixel de l image en forts poids faibles poids Constitution et codage des k images binaires Difficulté : sensibilité à de petites variations d intensité Autre possibilité : décomposition en codes de Gray b k 1, b k 2,..., b 0 valeur des k bits Codes de Gray : g k 1 = b k 1 g i = b i+1 XOR b i 0 i k 2 Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

25 Redondance spatiale Codage par plans de bits (BPC) Codage par plans de bits (BPC) (2) Décomposition BPC et codes de Gray Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

26 Redondance spatiale Codage par symboles Codage par symboles (1) Principe Reconnaissance de symboles (caractères) Création d un dictionnaire de symboles Description de l image comme un assemblage de ces symboles Exemple elémentaire Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27

27 Redondance spatiale Codage par symboles Codage par symboles (2) Exemple d utilisation : codage JBIG2 Segmentation de l image Caractères ou halftones : symboles Autres régions (e.g., lignes) : codage de source Exemple : distorsion induite par le codage Nikola Stikov (ELE8812) Compression et codage I 15 mars / 27