Filtrage de Wiener. Le filtrage de Wiener est adéquat pour les situations dans lesquelles le signal ou le bruit sont stationnaires.

Transcription

1 Filtrage de Wiener Le filtrage de Wiener est adéquat pour les situations dans lesquelles le signal ou le bruit sont stationnaires. INRS-EMT J. Benesty

2 Plan Formulation du problème Principe d orthogonalité Equation de Wiener-Hopf Surface de l erreur quadratique moyenne (EQM) Erreur quadratique moyenne (EQM) minimale Forme canonique de l EQM Exemples Résumé INRS-EMT J. Benesty 1

3 Formulation du problème On a un ensemble d échantillons d un signal d entrée {x(0),x(1),x(2), }et un ensemble d échantillons d une réponse désirée {d(0), d(1), d(2), } Dans la famille des filtres calculant leur sortie selon: y(n) = L 1 l=0 h l x(n l), n =0, 1, 2, (1) Trouver les paramètres {h 0,h 1,h 2, } de telle manière de minimiser l erreur quadratique moyenne (EQM ou MSE mean-square-error) ou critère où le signal d erreur est: e(n) =d(n) y(n) =d(n) J = E{e 2 (n)} (2) L 1 l=0 h l x(n l). (3) La famille des filtres (1) est la famille des filtres linéaires RIF. INRS-EMT J. Benesty 2

4 C est plus pratique d utiliser une notation matricielle pour la sortie du filtre: où y(n) = L 1 l=0 h l x(n l) = h T x(n) =x T (n)h, (4) h = [ h 0 h 1 h L 1 ] T est un vecteur de longueur L contenant les coefficients du filtre RIF et x(n) = [ x(n) x(n 1) x(n L +1) ] T est le vecteur des L données d entrée les plus récentes. INRS-EMT J. Benesty 3

5 Principe d orthogonalité Le vecteur optimum h opt est celui qui annule le gradient du critère: J h = 0 L 1. (5) On a: J h = 2E { e(n) e(n) } h = 2E {e(n)x(n)}. (6) Par conséquent, à l optimum, on a: E {e min (n)x(n)} = 0 L 1, (7) où e min (n) est l erreur pour laquelle J est minimisée (càd pour le filtre optimal). C est le principe d orthogonalité signifiant que toutes les entrées x(n l), 0 l L 1, sont décorrélées de l erreur e min (n). En d autres termes, le critère J atteind son minimum si et seulement si l erreur e(n) est orthogonale aux échantillons du signal d entrée x(n l). INRS-EMT J. Benesty 4

6 A l optimum, on a aussi: E {e min (n)y(n)} = E = { L 1 l=0 e min (n) L 1 l=0 h opt,l x(n l) h opt,l E {e min (n)x(n l)} } = 0, (8) c est le corollaire du principe d orthogonalité. sont les coefficients du filtre optimal h opt : h opt,l h opt = [ h opt,0 h opt,1 h opt,l 1 ] T. En d autres termes, quand le critère J atteind son minimum alors l erreur e min (n) est orthogonale àla sortie du filtre y(n). INRS-EMT J. Benesty 5

7 Equation de Wiener-Hopf Nous savons que pour le filtre optimum h opt, nous avons E {e min (n)x(n)} = 0 L 1.Endéveloppant cette équation, nous obtenons: soit ou encore E { x(n) [ d(n) x T (n)h opt ]} = 0L 1, E { x(n)x T (n) } h opt = E {x(n)d(n)}, (9) Rh opt = p avec solution h opt = R 1 p. (10) R = E { x(n)x T (n) } est la matrice d autocorrélation du signal d entrée x(n). Cette matrice est définie positive, de Toeplitz et symétrique. p = E {x(n)d(n)} est le vecteur d intercorrélation entre la sortie désirée d(n) et l entrée x(n). L équation (10) est appelée l équation de Wiener-Hopf. INRS-EMT J. Benesty 6

8 Surface de l erreur quadratique moyenne (EQM) Rappelons que le signal d erreur est: e(n) =d(n) h T x(n), donc la fonction coût peut encore s écrire: J (h) = J = E{e 2 (n)} = E{d 2 (n)} 2E{d(n)x T (n)}h + h T E{x(n)x T (n)}h = σ 2 d 2p T h + h T Rh, (11) où σ 2 d = E{d2 (n)} est la variance du signal désiré. J (h) est une fonction quadratique des paramètres {h 0,h 1,,h L 1 }. J (h) est une paraboloide de dimension L qui a un minimum unique obtenu en prenant le gradient égal à zero: J (h) / h = 0 L 1. L équation (11) représente la surface de l EQM. INRS-EMT J. Benesty 7

9 Erreur quadratique moyenne (EQM) minimale La fonction coût s écrit: J (h) = σ 2 d 2p T h + h T Rh. (12) A l optimum, sachant que h opt = R 1 p,nousavons: J min = J (h opt )=σ 2 d 2p T h opt + h T optrh opt = σ 2 d h T optrh opt = σ 2 d p T R 1 p = σ 2 d σ 2 d opt, (13) où d opt (n) =h T optx(n) est le signal filtré optimal et σ 2 d opt = E { d 2 opt(n) } la variance de ce signal. Cette relation montre que pour le filtre optimal, l EQM est la différence entre la variance du signal désiré et celle de l estimée de ce signal produite par le filtre. Ainsi, la valeur de l EQM minimale (MMSE minimum mean-square-error) pour le filtre optimal de Wiener est: J min =min h J (h) =J (h opt ). (14) INRS-EMT J. Benesty 8

10 On définit l EQM minimale normalisée comme suit: J min = J min σ 2 d (15) = 1 σ2 d opt σd 2. L EQM minimale normalisée satisfait 0 J min 1. INRS-EMT J. Benesty 9

11 Forme canonique de l EQM La fonction coût s écrit: J (h) = σ 2 d 2p T h + h T Rh. (16) En ajoutant et retranchant le terme p T R 1 p dans l expression précédente, nous avons: J (h) = σ 2 d p T R 1 p +(h R 1 p) T R(h R 1 p) = J min +(h h opt ) T R(h h opt ). (17) Soient λ 0,λ 1,,λ L 1 les valeurs propres de la matrice d autocorrelation R et q 0, q 1,, q L 1 les vecteurs propres correspondants, qui satisfont: Rq l = λ l q l, l =0, 1,,L 1, (18) alors la matrice Q =[q 0 q 1 q L 1 ] peut diagonaliser R comme suit: où Λ est une matrice diagonale. R = QΛQ T, (19) INRS-EMT J. Benesty 10

12 Utilisant la décompositon précédente dans l EQM, on a: J (h) = J min +(h h opt ) T R(h h opt ) où le vecteur = J min +(h h opt ) T QΛQ T (h h opt ) = J min + v T Λv = J min + L 1 l=0 v = Q T (h opt h) λ l v 2 l, (20) = [v 0 v 1 v L 1 ] T est une transformée du vecteur misalignment h opt h. L équation (20) est la forme canonique de l EQM. Cette expression ne contient plus de termes croisés. Comme les valeurs propres λ l sont non négatives, il apparait clairement que la surface d erreur est du type paraboloide elliptique dans un hyperespace. INRS-EMT J. Benesty 11

13 Premier exemple Soit d(n) un signal observé dont la variance est σ 2 d = On choisit un filtre de longueur L =2,et: R = p = [ [ ], ]. La surface de l erreur quadratique moyenne s écrit: J(h 0,h 1 )= [0.5272, ] +[h 0,h 1 ] [ ][ h0 [ h0 ], h 1 h 1 ] soit: J(h 0,h 1 )= h h 1 + h 0 h (h h 2 1). La figure 1 donne un tracé de l erreur quadratique moyenne J(h 0,h 1 ) en fonction des coefficients du filtre h 0 et h 1. INRS-EMT J. Benesty 12

14 15 10 EQM h h Figure 1: Exemple de surface de l EQM pour un filtre à deux coefficients. Le filtre optimum est donné parl équation de Wiener- Hopf: [ ] h opt = R p =, et l EQM minimale est: J min = [0.5272, ] = [ ] Ce point est representé tout au bas de la figure 1. INRS-EMT J. Benesty 13

15 Second exemple: débruitage Soit x(n) un signal observé: x(n) =d(n)+u(n), (21) où d(n) est un signal utile (non observable) de moyenne nulle et u(n) est un bruit blanc (non observable) de moyenne nulle dont la variance σu 2 est connue. On suppose que les signaux d(n) et u(n) sont décorrélés. L objectif est de trouver le filtre optimal de Wiener h opt qui va débruiter le signal observé x(n). On définit le signal d erreur: e(n) =d(n) h T x(n) (22) et la fonction coût associée: J = E{e 2 (n)}. (23) La minimisation du critère précédent par rapport à h, donne: E{x(n)x T (n)}h opt = E{x(n)d(n)}, Rh opt = p. (24) INRS-EMT J. Benesty 14

16 Cependant le signal d(n) n est pas observable, il est donc difficile de calculer directement p. Mais: p = E{x(n)d(n)} = E {x(n)x(n)} E Finalement: = E {x(n)[x(n) u(n)]} = E {x(n)x(n)} E {x(n)u(n)} p = E {x(n)x(n)} σ 2 u d(n)+u(n) d(n 1) + u(n 1) u(n).. (25) A présent, l équation (25) ne dépend plus du signal d(n) mais seulement du vecteur d autocorrélation du signal observé et de la variance du bruit u(n). INRS-EMT J. Benesty 15

17 On en déduit le filtre optimal de Wiener: h opt = R 1 p = R 1 E {x(n)x(n)} σ 2 ur 1 = [ I σ 2 ur 1] (26) Le filtre optimal de Wiener dépend de l inverse de la matrice d autocorrélation du signal observé x(n) et de la variance du bruit u(n). D où le signal filtré optimal: d opt (n) = h T optx(n) = x(n) σuv 2 T 1 R 1 x(n) = x(n) σuv 2 T 1 k(n) = x(n) σuk 2 0 (n), (27) INRS-EMT J. Benesty 16

18 avec: k(n) = R 1 x(n) = [k 0 (n) k 1 (n) k L 1 (n)] T, v 1 = [1 0 0] T. La variance du signal utile est: σd 2 = E { d 2 (n) } = E { [x(n) u(n)] 2} = σx 2 + σu 2 2E {x(n)u(n)}, or E {x(n)u(n)} = E {[d(n)+u(n)]u(n)} = σ 2 u, par conséquent: σ 2 d = σ 2 x σ 2 u. (28) INRS-EMT J. Benesty 17

19 La variance du signal filtré optimal est: σd 2 opt = = E { d 2 opt(n) } E { [x(n) σuv 2 T 1 R 1 x(n)] 2} = σx 2 +(σu) 2 2 v T 1 R 1 v 1 2σuv 2 T 1 R 1 E {x(n)x(n)} = σx 2 +(σu) 2 2 v T 1 R 1 v 1 2σu. 2 (29) On en déduit l erreur quadratique moyenne minimale: J min = σ 2 d σ 2 d opt = σ 2 u [ 1 σ 2 u v T 1 R 1 v 1 ]. (30) On peut voir que J min σ 2 u, ce qui veut dire que le filtre optimal de Wiener peut réduire le bruit d un signal observé à condition que certaines statistiques de ce bruit soient connues. INRS-EMT J. Benesty 18

20 Résumé Signal d erreur: e(n) =d(n) y(n) =d(n) h T x(n). Erreur quadratique moyenne (EQM): J = E{e 2 (n)}. La minimisation de J par rapport au vecteur h donne: E {e min (n)x(n)} = 0 L 1, c est le principe d orthogonalité. On en déduit l équation de Wiener-Hopf: et le filtre optimal: Aussi: Rh opt = p h opt = R 1 p. h opt = arg min h J (h). INRS-EMT J. Benesty 19

21 L EQM peut encore s écrire: J (h) = σ 2 d 2p T h + h T Rh, et l EQM minimale est: J min = minj (h) h = J (h opt ) = σ 2 d p T R 1 p. Forme canonique de l EQM: J (h) =J min + L 1 l=0 λ l v 2 l. INRS-EMT J. Benesty 20