Ces notes de cours sont inspirées des livres de Algèbre des matrices de J Fresnel [1] et Numerical Linear Algebra de LN Trefethen et D Bau III [2].

Dimension: px

Commencer à balayer dès la page:

Download "Ces notes de cours sont inspirées des livres de Algèbre des matrices de J Fresnel [1] et Numerical Linear Algebra de LN Trefethen et D Bau III [2]."

Fabrice Larocque
il y a 5 ans
Total affichages :

1 Notes de cours Algèbre Liéaire et Aalyse Matricielle BIM INSA Lyo v Ces otes de cours sot ispirées des livres de Algèbre des matrices de J Fresel [1] et Numerical Liear Algebra de LN Trefethe et D Bau III [2]. 5 Factorisatio QR U projecteur est ue matrice carrée P qui satisfait P 2 = P. Cette matrice est dite idempotete. U projecteur projette u poit x sur le sous-espace im P. Si v = P x alors P v = v, c.-à-d. que P est costat sur les élémets de so image. Les projecteurs ot des propriétés utiles. Si P est u projecteur, alors I P est u projecteur. Calculer (I P ) 2. im P = ker(i P ) et im(i P ) = ker P. Cosidérez P v v pour v im P. im P ker P = {0} U projecteur est orthogoal si im P est orthogoal à ker P. O a que P est u projecteur orthogoal si et seulemet si P = P (voir Quiz 0, questio ). Sauf pour la matrice idetité (qui est u projecteur), u projecteur P a pas plei rag. O peut se servir de projecteur pour décomposer u vecteur selo ue famille orthoormée. Soit q 1, q 2,..., q ue famille orthoormée avec q i C m, m. O a pour tout v C m v =r + (qi v)q i le terme (q i v), o peut doc commuter avec q i, =r + =r + =r + q i (qi v) q i qi v (q i qi )v [ ] =r + (q i qi ) v 1

2 Pour < m, la famille orthoormée e forme pas ue base; il y doc u vecteur résiduel r 0. Les coefficiets (q i v) représetet les composates de v le log des axes formés par les vecteurs q i. Cette décompositio peut-être réécrite sous forme matricielle. Les termes (q i q i ) sot des matrices m m avec coefficiets [q i(j) q i(k) ] jk. Si ˆQ = [q1 q 2... q ] est ue matrice m, alors o peut vérifier que ˆQ ˆQ [ ] = (q i qi ). La matrice P = QQ est ue matrice hermitiee: P = ( ˆQ ˆQ ) = ( ˆQ ) ˆQ = ˆQ ˆQ = P. De plus P est u projecteur: P 2 = ˆQ ˆQ ˆQ ˆQ = ˆQ( ˆQ ˆQ) ˆQ = ˆQI ˆQ = ˆQ ˆQ. C est doc u projecteur orthogoal. La matrice P projette u vecteur v orthogoalemet sur le sous-espace vectoriel egré par les coloes de Q, c.-à-d. que v = r+p v avec r orthogoal à P v. (Est-ce que cela rappelle le problème des moidres carrés?). L égalité P = ˆQ ˆQ ous doe presque ue décompositio e valeurs sigulières de P. La matrice P est carrée m m. Soit Q ue matrice orthoormale dot les premières coloes formet ˆQ. Alors P = QΣQ avec Σ ue matrice diagoale m m avec 1s sur les premières diagoales et 0 ailleurs, est ue décompositio e valeurs sigulière de P. Les valeurs sigulière de P sot 1 (P est doc de rag ). E procédat à l evers, o peut motrer que tout projecteur orthogoal admet ue décompositio P = ˆQ ˆQ, où ˆQ est ue base orthoormée de im P. 5.1 Orthogoalisatio de Gram-Schmidt Soit ue matrice A de taille m avec m. O cosidère les vecteurs coloes de la matrice a 1,..., a avec a i C m. O veut costruire ue suite d espaces egrés par les vecteurs a i : Vect(a 1 ) Vect(a 1, a 2 )... Vect(a 1,..., a i )... L idée de la factorisatio QR est de trouver costruire ue suite de vecteurs orthoormés q 1, q 2,..., q qui egres les sous-espaces successifs des coloes de A: Vect(q 1 ) = Vect(a 1 ), Vect(q 1, q 2 ) = Vect(a 1, a 2 ),... Vect(q 1,..., q i ) = Vect(a 1,..., a i ). De cette faço, a i doit être ue combiaiso liéaire des i premiers vecteurs q 1,..., q i, 2

3 i = 1,...,. Sous forme matricielle, o a = a 1 a 2 a q 1 q 2 q r 11 r 12 r 1 r r, De faço équivalete, a 1 =r 11 q 1, a 2 =r 12 q 1 + r 22 q 2,... a i =r 1i q 1 + r 2i q r i q i, ou ecore: A = ˆQ ˆR, (1) avec ˆQ la matrice des vecteurs coloes q i et ˆR la matrice des coefficiets r ij. C est la factorisatio QR réduite. ˆQ est ue matrice m et ˆR est ue matrice triagulaire supérieure. La factorisatio QR complète est ue factorisatio A = QR avec Q uitaire la matrice augmetée de ˆQ avec des vecteurs orthoormés et R triagulaire la matrice augmetée de ˆR avec des liges de zéros. La méthode d orthogoalisatio de Gram-Schmidt pour la décompositio QR réduite est la suivate. O suppose qu o a costruit les vecteurs q 1,..., q j 1. A l étape j i veut trouver ue vecteur orthogoal aux q i, i < j, qui se trouve das le sous-espace egré par les j premiers vecteurs a i. Or, j 1 v j = a j (qi a j )q i (2) est u vecteur orthogoal à l espace egré par les j 1 premiers q i, et est clairemet das le sous-espace egré par les j premiers a i. E divisat par v j o obtiet le vecteur q j recherché. Les coefficiets r ij =q i a j, i < j, j 1 r jj = a j r ij q i. O peut écrire l algorithme pour la factorisatio QR réduite.

4 Algorithme Gram-Schmidt Classique. Data: ue matrice A de plei rag Result: ue décompositio QR réduite de A for j = 1 to do v j = a j ; for i = 1 to j 1 do r ij = q i a j ; v j = v j r ij q i ; r jj = v j ; q j = v j /r jj ; Cet algorithme motre que toute matrice de plei rag possède ue factorisatio QR réduite uique avec r jj > 0. E pratique, cet algorithme est pas umériquemet stable. Ue autre faço de calculer les vecteurs q i ous est doé e format des projecteurs orthogoaux. Ici, o cosidère q j comme le résultat de la projectio orthogoale de a j sur l espace orthogoal à q 1, q 2,..., q j 1. q 1 = P 1 a 1 / P 1 a 1,..., q j = P j a j / P j a j,... avec P j la matrice de projectio orthogoale sur l espace orthogoal à q 1,..., q j 1. O a vu que le projecteur orthogoal qui projette sur l espace egré par les j 1 premiers q i était ˆQ j 1 ˆQ j 1 avec ˆQ j 1 = [q 1... q j 1 ]. Le projecteur orthogoal qui projette sur l espace orthogoal est le projecteur complémetaire P j = I ˆQ j 1 ˆQ j 1. P j est u projecteur orthogoal. Sa projectio est orthogoale aux vecteurs q i, i < j. E effet, P j est tout simplemet ue autre faço d écrire l équatio pour les v j de Gram-Schmidt: v j = P j a j =a j ˆQ j 1 ˆQ j 1 a j, j 1 =a j (qi a j )q i. Cette réécriture permet d avoir u algorithme de Gram-Schmidt umériquemet stable e calculat les P j comme ue successio de projectios. Si o défiit P q le projecteur orthogoal qui projette sur l espace orthogoal à q, alors P j s écrit comme le produit des projecteurs P qi, i < j, P j = P qj 1 P q2...p q1 O exploite le fait que P j = P qj 1 P j 1 pour l algorithme. Les matrices P q =I qq 4

5 et P q v =v qq v, O commece par iitialiser les vecteurs v (1) i =v (q v)q. = a i, i = 1,...,. Le premier vecteur v 1 est obteu directemet v 1 = v ( 1) 1. Esuite o calcule les produit P q1 v (1) j qu o omme v (2) j reormalisera à l étape i + 1. et o itère. À chaque étape i, o obtiet le vecteur v i+1 = v (i+1) i+1 qu o i = 1 q 1 = v (1) 1 / v (1) 1 P q1 v (1) 2 =v (2) 2 =v 2 j = 2 j =... j = P q1 v (1) =v (2) i = 2 q 2 = v 2 / v 2 P q2 v (2) =v () =v... P q1 v (1) =v (2)... P q2 v (2) =v () i = q = v / v... P q v () =v (4). i = q = v / v. L implémetatio de l algorithme est la suivate. Algorithme Gram-Schmidt Modifié. Data: ue matrice A de plei rag Result: ue décompositio QR réduite de A for j = 1 to do v j = a j ; for i = 1 to do r ii = v i ; q i = v i /r ii ; for j = i + 1 to do r ij = q i v j ; v j = v j r ij q i ; 5

6 5.2 Triagularisatio de Householder La méthode de Householder applique successivemet des trasformatios Q 1 A, Q 2 A,... sur les coloes de A pour itroduire des zéros sous la diagoale. Chaque matrice Q k est uitaire et agit e itroduisat des zéros sous la diagoale de la coloe k, sas affecter les premières k 1 coloes. La matrice Q k a la forme suivate [ ] I 0 Q k =, () 0 F où I est la matrice idetité de taille (k 1) (k 1) et F est ue matrice uitaire de taille (m k + 1) (m k + 1). Si o a ue matrice avec des zéros sous la diagoale des k 1 premières coloes, le produit par Q k est de la forme [ ] [ ] I 0 T B 0 F 0 C = [ ] T B. (4) 0 F C O voit que le produit par Q k e modifie que la sous-matrice iférieure droite. La sous-matrice F C doit avoir des zéros sous la diagoale de la première coloe. Si x est le vecteur première coloe de C, o veut F x = cste 1, avec e 1 = t (1, 0,..., 0). Comme F est uitaire, F doit préserver la orme de x, doc F x = ± x e 1. O veut doc evoyer x sur l axe de la première coordoée. Pour ce faire, o utilise le réflecteur de Householder. x H. v F x = x e 1 L idée du réflecteur est de réfléchir x orthogoalemet à travers u hyperpla H. Le vecteur orthogoal à l hyperpla H est v = x e 1 x. O sait déjà commet evoyer x sur le pla H, à l aide des projecteurs orthogoaux. Ce projecteur est le projecteur qui projette sur l espace othogoal à v, c.-à-d. P v. P v = I vv v v (O divise pour ormaliser v.) O e veut pas aller sur H mais de l autre côté. Le réflecteur sera doc F = I 2 vv v v F est uitaire: O a F = F, ce qui implique que et F F = F 2 et F 2 = I. Le réflecteur F est pas uique. O aurait pu evoyer x sur x e 1. Pour des raisos 6

7 de stabilité umérique, o veut evoyer x le plus loi possible. Pour cela o choisit le sige iverse du sige de x 1, la première composate de x. Le vecteur v deviet v = sig(x 1 ) x 1 e 1 x, ou de faço équivalete v = sig(x 1 ) x e 1 + x. (5) L implémetatio de l algorithme est la suivate. Algorithme de Householder Data: ue matrice A de plei rag Result: ue matrice R de la décompositio QR réduite de A et ue matrice de réflexios W. La matrice R est directemet stockée das A, et W est composée des vecteurs coloes v k. for k = 1 to do x = A k:m,k v k = sig(x 1 ) x e 1 + x; v k = v k / v k ; A k:m,k:m = A k:m,k:m 2v k (v k A k:m,k:m); Cet algorithme e calcule pas explicitemet la matrice Q, seulemet les élemets v k pour former les Q k. O a cepat les relatios Q = Q Q 2 Q 1. E pratique o a souvet à calculer Q b. L algorithme pour le calculer est Calcul de Q b Data: U vecteur b et les vecteurs v k Result: Le produit Q b. for k = 1 to do b k:m = b k:m 2v k (v k b k:m); Refereces [1] Jea Fresel. Algebre des matrices. Herma, 201. [2] Lloyd N Trefethe ad David Bau III. Numerical liear algebra, volume 50. Siam,

Documents pareils

Module 3 : Inversion de matrices

Module 3 : Inversion de matrices Math Stat Module : Iversio de matrices M Module : Iversio de matrices Uité. Défiitio O e défiira l iverse d ue matrice que si est carrée. O appelle iverse de la matrice carrée toute matrice B telle que