Moindres carrés récursifs et algorithme adaptatif

Transcription

1 Moindres carrés récursifs et algorithme adaptatif Département du Traitement du Signal et des Images Laboratoire de Transmission et de Communication de l Information-UMR5141 Télécom Paris-Tech 6 mars 2011

2 1 Introduction 2 3 4

3 Introduction Dans la suite on envisage des systèmes entrée-sortie qui varient dans le temps. S adapter : changer sa structure, ses modes de travail, ses paramètres pour répondre à des changements d environnement.

4 Exemple : Annulation d écho acoustique Figure: Annulation d écho acoustique En pratique, les coefficients du filtre doivent être modifiés de façon à suivre les variations du canal acoustique. En l absence du signal s(n), le signal en sortie de l annuleur d écho doit être nul.

5 Estimation de la moyenne : convergence On veut estimer la moyenne m = E [x 1 ] d une suite de v.a. x n supposées i.i.d. On utilise l estimateur ˆm n = 1 n Acquisition/convergence : la loi des grands nombres assure Mis sous forme récursive... il vient où m 0 = 0 et où n i=1 x i ˆm n = ˆm n 1 + µ n (x n ˆm n 1 ) µ n = 1 n Le pas tend vers 0 quand n tend vers l infini.

6 Estimation de la moyenne : poursuite On suppose à présent que E [x n ] = { m1 si n T m 2 si n > T Pour n > T, on a ˆm n m 2 = T n (m 1 m 2 ) + δ n où δ n = 1 n T (x i m 1 ) + 1 n i=1 n (x i m 2 ) i=t +1 D après les hypothèses, δ n est centrée. Par conséquent pour n > T E [ ( ˆm n m 2 ) 2] T 2 (m 1 m 2 ) 2 Capacité de poursuite n 2

7 Estimation de la moyenne : algorithme à pas constant Considérons l algorithme à pas constant : ˆm n = ˆm n 1 + µ (x n ˆm n 1 ) où on suppose que x n = m + Z n avec Z n BB(0, σ 2 ). On pose ɛ n = ˆm n m. Alors ɛ n = (1 µ) ɛ n 1 + µ Z n Cette équation est celle d un processus AR-1. On sait qu elle a une solution stationnaire ssi 1 µ < 1 cad 0 < µ < 2,

8 On montre que la solution stationnaire a pour moyenne : E [ɛ n ] = 0 et, par conséquent, ˆm n fluctue autour de la vraie valeur m et que sa variance s écrit : Si µ 2 alors... var(ɛ n ) = µ 2 1 (1 µ) 2 σ2 = µ 2 µ σ2 On doit accepter un compromis entre convergence et capacité de poursuite.

9 Algorithme récursif Pour prendre en compte d éventuelles non-stationnarités, on considère des algorithmes de la forme suivante : ˆθ n = ˆθ n 1 + n (e(n)) où n tend vers 0 quand e(n) tend vers 0. On note que cette forme d algorithmes ne nécessite ni une opération de minimisation ni une opération de calcul de moyenne. On souhaite vérifier les points suivants : la simplicité d implémentation la capacité d acquisition, la capacité de poursuite.

10 Théorème de projection On considère un espace de Hilbert H. Soit x H et C H. Il existe un unique élément de C, noté (x C), tel que y C x (x C) x y (x C) vérifie x (x C), C, principe d orthogonalité x (x C) 2 = x 2 (x C) 2 Soit v H. Notons ɛ = v (v C) alors (x C v) = (x C) + (x ɛ) = (x C) + (x, ɛ) (ɛ, ɛ) ɛ

11 Filtre de Wiener Dans la suite, l espace de Hilbert considéré est celui des v.a. de carré intégrable E [ x n 2] < +. On considère une suite d observations (x n, y n ) stationnaires au second ordre, centrées et de covariance stationnaire et on cherche θ = [θ 0,, θ P 1 ] T qui minimise J(θ) = E [ x n θ T y n 2] où y n = [y n,, y n P +1 ] T. Par conséquent θ vérifie : x n θ T y n y n [ ] cad E y n (x n θ T y n ) T = 0

12 La solution est le filtre dit de Wiener dont l expression s écrit : θ w = ( [ ]) 1 [ ] E y n y T n E (y n x n ) et J(θ w ) = E [ x n 2] [ ] ( [ ]) 1 [ ] E x n y T E y n n y T n E (y n x n ) On en déduit : J(θ) = J(θ w ) + (θ θ w ) T R yy (θ θ w )

13 Reprenons : θ w = ( [ ]) 1 [ ] E y n y T n E (y n x n ) (1) Les problèmes liés au calcul de θ w (expression (1)) sont : Estimation des covariances, Calcul de l inverse de matrice, Absence d adaptation Pour répondre à ces différents points, une idée consiste à déduire, dans un premier temps, un algorithme récursif pour la solution stationnaire puis de remplacer certaines espérances par des estimations basées sur les observations passées.

14 Algorithme du gradient Un algorithme récursif classique en optimisation est l algorithme dit du gradient. Soit la fonction d objectif à minimiser J(θ) = E [ x n 2] ] [ ] 2θ T E [x n y n + θ T E y n y T θ n Son gradient s écrit : θ (J) = 2E ] [ ] [x n y n + 2E y n y T θ n

15 Algorithme du gradient L algorithme du gradient a pour expression : θ n = θ n 1 µ h (J), où µ 0 (2) [ ] = θ n 1 + 2µE y n (x n y T n θ n 1) = (I 2µE [ yy T ] ] )θ n 1 + 2µE [y n x n On montre qu,e si 0 < µ < 2/λ max, la suite θ n converge et sa limite est...

16 Algorithme du gradient

17 - Least Mean Squares L algorithme, appelé aussi algorithme du gradient stochastique, consiste à supprimer les espérances dans (2), ce qui donne : Valeur initiale : θ 0 = [0,, 0] T, Répéter : e n = x n y T n θ n 1 θ n = θ n 1 + µ e n y n (3) Le problème de la convergence est un problème difficile dans le cas général.

18 En pratique, pour fixer la valeur de µ, on adopte souvent la procédure suivante : on augmente progressivement µ jusqu à ce que l algorithme diverge puis ensuite on réduit la valeur obtenue d au moins 10%.

19 normalisé On a vu que le pas du gradient doit être choisi comme l inverse de la plus grande valeur propre. D où l idée de prendre, quand le signal n est pas stationnaire, un pas variant comme l inverse de la puissance instantanée. Valeur initiale : θ 0 = [0,, 0] T, Répéter : e n = x n y T n θ n 1 ν (4) θ n = θ n 1 + δ + y T n y e n y n n

20 Moindres Carrés Récursifs avec facteur d oubli exponentiel On reprend l idée des moindres carrés qui, dans le cas de la moyenne s écrit n min (x i m) 2 m i=1 qui donne comme estimateur ˆm n = n 1 n i=1 x i dont l expression récursive s écrit ˆm n = ˆm n n (x n ˆm n 1 ) (5)

21 Moindres Carrés Récursifs avec facteur d oubli exponentiel Un inconvénient de l expression (5) en terme de poursuite est le gain de la forme 1/n qui tend vers 0 quand n tend vers l infini. Pour contourner cette difficulté on introduit un facteur d oubli sur les échantillons passés : min m n (x i m) 2 λ n i avec 0 < λ 1 i=1 qui donne pour λ 1 ˆm n = ˆm n λ 1 λ n (x n ˆm n 1 )

22 Moindres Carrés Récursifs avec facteur d oubli exponentiel On observe une suite scalaire x n et une suite vectorielle y n de dimension P. On cherche θ o qui minimise J(θ) = n λ n i (x i y T i θ)2 = x Y θ 2 Λ i=1 où Y = [y T 1,, yt n ]T et x = [x 1,, x n ] T.

23 Moindres Carrés Récursifs avec facteur d oubli exponentiel La solution de la minimisation sur θ vérifie (x Y θ o ) Y ce qui s écrit : θ o = (Y T ΛY ) 1 Y T Λx et J(θ o ) = x T Λx x T ΛY (Y T ΛY ) 1 Y T Λx

24 On note à présent la valeur obtenue à l étape n : θ n = (Y T n Λ ny n ) 1 Y T n Λ nx n où Y n = [y T 1,, yt n ]T et x n = [x 1,, x n ] T. On donne le lemme d inversion matricielle : (R + θθ T ) 1 = R 1 R 1 θθ T R θ T R 1 θ (6)

25 Montrons que pour n = 0... : K n+1 = λ 1 Q n y n λ 1 y T n+1 Q n y n+1 θ n+1 = θ n + K n+1 (x n+1 y T n+1 θ n) (7) Q n+1 = λ 1 Q n (1 + λ 1 y T n+1 Q n y n+1 )K n+1k H n+1 avec comme conditions initiales Q 0 = I P /δ with δ 1 et θ 0 = 0.

26 Estimation bayesienne Modèle statistique = famille de mesures de probabilité définies sur le même espace d observation : {X, B(X ), p X θ (x, θ); θ Θ} Un estimateur de θ est une application T : X Θ. Dans l approche bayesienne on suppose que θ est un v.a. et que sa loi possède une densité notée p θ (t). L estimateur qui minimise l écart quadratique E [ θ ˆθ(X) ] 2 est l espérance conditionnelle, qui s écrit E [θ X] = tp θ X (t, X)dt Θ

27 Estimateur linéaire, bayesien Soit une observation X = (x 1,..., x n ) T et θ R p. On suppose connus les moments jusqu à l ordre deux : E [θ], E [X], R θx = E [ (θ E [θ])(x E [X]) T ], R θθ = E [ (θ E [θ])(θ E [θ]) T ], R XX = E [ (X E [X])(X E [X]) T ]. L estimateur linéaire de risque quadratique minimum est donné par : ˆθ(X) = E [θ] + R θx R 1 XX (X E [X]) (8) Le risque quadratique minimal est : R ɛɛ = R θθ R θx R 1 XX R Xθ

28 Gauss-Markov bayesien Soit le modèle d observation linéaire gaussien défini par x n = b T n θ + w n x n = B n θ + w n (9) L estimateur bayesien est alors donné par (8) qui s écrit : ˆθ n = E [θ] + R θθ B T n (B n R θθb T n + R W W ) 1 (x n B n E [θ]) (10) ( ) 1 = E [θ] + R 1 θθ + BT n R 1 W W B n B T W W (x n B n E [θ]) n R 1

29 et le risque bayesien R ɛɛ = R θθ R θθ B T n (B n R θθb T n + R W W ) 1 B n R θθ ( ) 1 = R 1 θθ + B n R 1 W W BT n

30 Algorithme récursif Posons : [ ] [ ] [ xn Bn RW x n+1 =, B x n+1 n+1 = b T, R W W,n+1 = W,n 0 n+1 0 σn+1 2 ( ) et Q n = R 1 θθ + BT n R 1 W W,n B. n Les solutions obtenues pour l estimateur aux étapes n et (n + 1) vérifient : Q n (ˆθ n E [θ]) = B T n R 1 W W,n (x n B n E [θ]) Q n+1 (ˆθ n+1 E [θ]) = B T n+1 R 1 W W (x n+1 B n+1 E [θ]) ]

31 On vérifie aisément que : puis Q n+1 = Q n + σ 2 n+1 b n+1b T n+1 (11) Q 1 n+1 = Q 1 b n+1 b T n+1q 1 n σn bt n+1q 1 n Q 1 n n b n+1 Q n+1 (ˆθ n+1 ˆθ n) = (Q n+1 Q n)(ˆθ n E [θ]) + b n+1 σ 2 n+1 (x n+1 b T n+1 E [θ]) = σ 2 n+1 b n+1 bt n+1 (ˆθ n E [θ]) + b n+1 σ 2 n+1 (x n+1 b T n+1 E [θ]) = b n+1 σ 2 n+1 (x n+1 b T n+1 ˆθ n)

32 Par conséquent : ˆθ n+1 = ˆθ n + K n+1 (x n+1 b T n+1e [θ]) où nous avons posé K n+1 = Q 1 en posant P n = Q 1 n, on en déduit que n+1 b n+1σn+1 2. En utilisant (11) et K n+1 = P n b n+1 σ 2 n+1 + bt n+1p n b n+1 où P n+1 vérifie (11), ce qui donne : P n+1 = (I K n+1 b T n+1)p n

33 En définitif, on a l algorithme récursif : Valeurs initiales : ˆθ 0 = E [θ] P 0 = R θθ Pour n = {0, 1,...} répéter : P n b K n+1 = n+1 σn bt n+1p n b n+1 ˆθ n+1 = ˆθ n + K n+1 (x n+1 b T ˆθ n+1 n ) (12) P n+1 = (I K n+1 b T n+1)p n A rapprocher de (7).