Notes du cours d Analyse Numérique Matricielle. Daniele A. Di Pietro

Transcription

1 Notes du cours d Analyse Numérique Matricielle Daniele A Di Pietro AA 26 27

2 Table des matières Rappels et compléments d algèbre linéaire 3 Quelques définitions 3 2 Valeurs et vecteurs propres, rayon spectral déterminant 8 3 Noyau et image d une matrice 4 Décompositions d une matrice 4 Matrices diagonalisables 42 Décomposition de Schur 43 Décomposition en valeurs singulières 2 5 Normes matricielles 3 6 Exercices 7 2 Méthodes directes 2 2 Solution numérique des systèmes linéaires 2 2 onditionnement d une matrice 2 22 Analyse a priori 2 22 Opérations élémentaires Méthode de Gauss Factorisation A = LU Existence et unicité de la factorisation A = LU Pivoting partiel et factorisation PA = LU Résolution de systèmes linéaires Autres factorisations Matrices SDP : La factorisation de holesky Matrices rectangulaires : La factorisation A = QR 3 25 Matrices creuses 3 25 Matrices tridiagonales : La méthode de Thomas Matrices creuses non structurées Exercices 36 3 Méthodes itératives 38 3 Généralités Méthodes de point fixe Formulation abstraite basée sur une décomposition régulière Les méthodes de Jacobi et Gauss Seidel La méthode du gradient Méthode du gradient conjugué 44

3 33 Vecteurs A-conjuguées La méthode du gradient conjugué Méthodes basées sur les espaces de Krylov Espaces de Krylov Retour sur la méthode du gradient conjugué L algorithme de Gram Schmidt Arnoldi Principe des méthodes de Arnoldi et GMRes 5 35 Exercices 52 2

4 hapitre Rappels et compléments d algèbre linéaire Quelques définitions Soit m et n deux entiers positifs et soit K un corps commutatif Par la suite seuls les cas K = R et K = seront considérés, et les éléments de K seront de ce fait appelés scalaires Une matrice à m lignes et n colonnes est un ensemble de mn scalaires (dits éléments de la matrice) indexés par les éléments du produit cartésien I J avec I := J,mK et J := J,nK : a ij 2 K,applei apple m, apple j apple n Les indices i et j sont dits, respectivement ligne et colonne de a ij En effet, on peut interpréter le couple d indices (i, j ) comme les coordonnées de l élément a ij dans le tableau suivant : a a 2 a n a A = 2 a 22 a a m a m2 a mn Par la suite on utilisera la notation A =(a ij ) pour indiquer que l élément générique de la matrice A est noté a ij (les intervalles I et J ne seront précisés si on peut les déduire du contexte) La notation (A) ij pourra également être utilisée pour indiquer l élément d indices (i, j ) Pour tout apple i apple m on définit le vecteur ligne i de A (noté A i : ) comme suit : A A i : := a i a i 2 a im 2 R m De manière analogue, pour tout apple j apple m on définit le vecteur colonne j de A (noté A : j ) par A : j a j a 2j a nj A 2 Rn On peut identifier chaque ligne i (resp colonne j ) de A avec le vecteur ligne A i : (resp vecteur colonne A : j ) correspondant, et on parlera alors tout simplement de lignes et de colonnes de A Une matrice qui a autant de lignes que de colonnes est dite carrée Les matrices non carrées sont dites rectangulaires 3

5 Définition (Matrice triangulaire, strictement triangulaire et diagonale) Une matrice A 2 n,n est dite triangulaire supérieure (resp inférieure) si i > j =) a ij = (resp i < j =) a ij = ) pour tout apple i, j apple n Si les inégalité strictes sont remplacées par des inégalités simples, on parle alors de matrice strictement triangulaire supérieure (resp inférieure) Une matrice (strictement) triangulaire inférieure ou supérieure est dite (strictement) triangulaire La matrice A est dite diagonale si i 6= j =) a ij = pour tout apple i, j apple n Exercice 2 (Matrice triangulaire, strictement triangulaire et diagonale) Dire si les matrices suivantes sont triangulaires, strictement triangulaires ou diagonales : 2 2 2A Définition 3 (Matrice de Hessenberg) Une matrice A 2 n+,n est dite de Hessenberg supérieure si i > j + =) a ij = Par la suite nous omettrons d indiquer les éléments nuls des matrices triangulaires, diagonales ou de Hessenberg Définition 4 (Transposée et transconjuguée d une matrice) Soit A =(a ij ) 2 m,n On définit la transposée et la transconjuguée (ou matrice adjointe) de A respectivement par A T :=(a ji ) 2 n,m, A H :=(a ji ) 2 n,m Example 5 (Transposée et transconjuguée) On considère la matrice suivante : 2 + 3i 3 + 4i A = + 5i 3 + 7i Sa transposée et transconjuguée sont données, respectivement, par 2 + 3i + 5i 2 3i 5i A T =, A H = 3 + 4i 3 + 7i 3 4i 3 7i Exercice 6 (Propriété de la transconjuguée) Vérifier que (i) Pour toutes matrices A, 2 n,m, (ii) Pour tout scalaire 2 et toute matrice A 2 n,m, (A + ) H = A H + H ; () ( A) H = A H Soient l, m, n 2 N, A =(a ij ) 2 n,m, =(b ij ) 2 m,l On définit le produit matriciel A 2 n,l comme la matrice telle que (A) ij = mx a ik b kj 8i 2 J,nK, 8 j 2 J,l K k= Le produit matriciel est illustré dans la Figure 4

6 a a 2 a m a 2 ; a 22 ; a 2m ; a n a n2 a A A 2 n,m b b 2 ; b l b 2 b 22 ; b 2l b m b m2 ; b A 2 m,l c c 2 c l c 2 c 22 ; c 2l c n c n2 c A a 2 b 2 a 22 b 22 a 2p b p = A 2 n,l FIGURE Produit matriciel Figure adaptée de Alain Matthes, com/pages/exampleshtml 5

7 Proposition 7 (Propriétés du produit matriciel) Le produit matriciel est (i) associatif, à savoir, pour tout A,, et pour lesquelles les produits ont un sens, on a (A) = A()= A ; (ii) distributif par rapport à addition, à savoir, pour toutes matrices A,, pour lesquelles l écriture A( + ) a un sens on a A( + )=A + A Il est important de retenir que le produit matriciel n est pas commutatif Exercice 8 (Produit matriciel) Soient A 2 R 2,3 et 2 R 3,3 définies comme suit : A := , 7 3 2A On a A = Précisez si les produits A et A T sont définis et, si c est le cas, les calculer Proposition 9 (Produit de deux matrices triangulaires) Soient A, 2 R n,n deux matrices triangulaires inférieures (resp supérieures) Alors, A est triangulaire inférieure (resp supérieure) Démonstration On détaille la preuve pour le cas triangulaire inférieure, l autre cas pouvant se traiter de manière analogue Par définition nous avons Par conséquent, i < j =) (A) ij = (i < k =) a ik = ) et k < j =) b kj = a ik b kj = k= ix k= a ik b kj {z} = + k=i + a ik {z} = b kj = Example (Produit de deux matrices triangulaires) On considère les deux matrices triangulaires inférieures 8 A 2 3 A, 2 4 A On a 8 A 22 2 A 49 6 La preuve de la proposition suivante est laissée en exercice Proposition (Transposé et transconjugué d un produit) Pour tout A 2 n,m et 2 m,l on a (A) H = H A H, (A) T = T A T 6

8 Exercice 2 (Transposé et transconjugué d un produit) Reprendre les matrices de l Exercice 8 et vérifier que (A) T = T A T Définition 3 (Matrice hermitienne et symétrique) Une matrice complexe A 2 n,n est dite hermitienne si A H = A Une matrice réelle A 2 R n,n est dite symétrique si A T = A Example 4 (Matrice hermitienne et symétrique) Les matrices suivantes sont, respectivement, hermitienne et symétrique + i 2 + i 2 A i 2 3+ i A, 2 3A 2 i 3 i Que peut-on dire des éléments diagonaux d une matrice hermitienne? Définition 5 (Matrice normale, unitaire et orthogonale) Soit A 2 n,n On dit que A est normale si AA H = A H A Si, de plus, AA H = A H A = I n on dit que A est unitaire SiA2 R n,n, on dit que A est orthogonale si AA T = A T A = I n Il est utile de rappeler que les produits scalaires canoniques sur R n et n sont définis, respectivement, par (x, y ) R n := y T x, 8x, y 2 R n, (x, y ) n := y H x, 8x, y 2 n Quand le contexte rende la notation non ambiguë, nous allons omettre l indice pour le produit interne de R n Remarque 6 (Matrices unitaires et norme 2) La dénomination des matrices unitaires se justifie par la remarque suivante Soit k k 2 la norme vectorielle sur n définie par kx k 2 2 := (x, x ) n = x H x Alors, pour tout x 2 n, kuxk 2 2 =(Ux,Ux) n =(Ux)H Ux = x H U H Ux = x H x = kx k 2 2, à savoir, la multiplication par une matrice unitaire ne modifie pas la norme d un vecteur Plus généralement, pour tout x, y 2 n, on a (Ux,Uy) n =(Uy) H Ux = y H U H Ux = y H x =(x, y ) n, à savoir, les matrices unitaires préservent le produit scalaire Example 7 (Matrice élémentaire unitaire) Soit w 2 n tel que (w, w ) n = w H w = On définit A := I n 2ww H (2) Une matrice de la forme (2) est dite élémentaire On peut vérifier que A est unitaire En effet A H A =(I n 2ww H ) H (I n 2ww H ) =(I n 2ww H )(I n 2ww H ) Éq (), Proposition = I n 4ww H + 4(ww H )(ww H ) Proposition 7, distributivité = I n 4ww H + 4w (w H w ) {z } = = I n 4ww H + 4ww H = I n w H 7 Proposition 7, associativité

9 Définition 8 (Inverse d une matrice) Soit A 2 n,n On dit que A est inversible s il existe 2 n,n telle que A = A= I n est dit inverse de la matrice A et elle est notée A On vérifie aisément que l inverse d une matrice, si elle existe, est unique Pour s en convaincre, soit A 2 n,n une matrice inversible et, 2 n,n deux matrices telles que A = A= A = A= I n De par la Proposition 7 on a A = A =) A= A =) (A) = (A)=) I n = I n =) = Par définition, en outre, toute matrice A 2 n,n (resp A 2 R n,n ) unitaire (resp orthogonale) est inversible avec A = A H (resp A = A T ) Il est utile de considérer l inverse de la transposée d une matrice On a, par définition, I n =(A T ) A T () I T n = (A T ) A T T () In = A (A T ) T = AA, à savoir (A ) T =(A T ) ette remarque suggère la définition suivante Définition 9 (Inverse transposée) Soit A 2 n,n inversible On définit la matrice inverse transposée de A par A T :=(A ) T =(A T ) Proposition 2 (Inverse d un produit) Pour tout A, 2 n,n inversibles telles que A est inversible on a (A) = A Démonstration On a que ( A )(A)= (A A) = I n = = I n, où nous avons utilisé l associativité du produit matriciel (voir Proposition (7)) dans la première inégalité D autre part, en procédant de façon similaire, on a que (A)( A )=A( )A = AI n A = AA = I n La conclusion s ensuit par la Définition (8) de l inverse 2 Valeurs et vecteurs propres, rayon spectral déterminant Définition 2 (Valeurs et vecteurs propres) Soit A 2 n,n Un nombre propre de A s il existe un vecteur x 2 n non nul tel que 2 est une valeur Ax = x On dit dans ce cas que x 2 n est un vecteur propre associé à la valeur propre des valeurs propres d une matrice A, noté (A), est dit spectre de A L ensemble Les valeurs propres sont par définition les solutions de l équation caractéristique p A ( ) := det(a I )= omme p A est un polynôme de degré n, il admet précisément n racines complexes (non nécessairement distinctes) 8

10 Proposition 22 (Valeurs propres de l inverse d une matrice) Pour toute matrice A 2 n,n inversible on a 2 (A) =) 2 (A ) (3) Démonstration On verra plus loin (Théorème 3) que l inversibilité de A implique que toutes ses valeurs propres soient non nulles omme 2 (A), il existe x 2 n non nul tel que Ax = x () x = A Ax = A x () x = A x, ce qui prouve que 2 (A ) Définition 23 (Matrice HDP et SDP) Une matrice A 2 n,n est HDP si elle est hermitienne et définie positive, à savoir, (Ax, x ) n > 8x 2 n \{ 2 n } Une matrice A 2 R n,n est SDP si elle est symétrique et définie positive Proposition 24 (Valeurs propres d une matrice HDP/SDP) Soit A 2 n,n (resp A 2 R n,n ) une matrice HDP (resp SDP) Alors, toutes les valeurs propres de A sont réelles et strictement positives Démonstration On détaille la preuve uniquement pour le cas HDP, l autre étant similaire Soit une valeur propre de A et x 2 n \{2 n } un vecteur propre associé Alors, Ax = x =) < x H Ax = x H x = kx k 2 2 =) = x H Ax kx k 2 2 Nous admettrons le résultat suivant 2 R + Proposition 25 (Valeurs propres d une matrice triangulaire) Les valeurs propres d une matrice triangulaire sont ses éléments diagonaux Définition 26 (Rayon spectral) Soit A 2 n,n On définit son rayon spectral comme la plus grande valeur propre en valeur absolue, (A) := max 2 (A) Le rayon spectral n est pas une norme matricielle (voir Section 5), car on peut avoir (A)= sans que A soit nulle (il suffit de prendre une matrice triangulaire non nulle avec diagonale nulle pour s en convaincre) Définition 27 (Déterminant) Soit A 2 n,n Le déterminant de A est donné par Y det(a) := Le déterminant d une matrice permet de décider de son inversibilité Plus précisément, une matrice est inversible si et seulement si son déterminant est non nul De par la Proposition 22 on a, en outre, que Y Y det(a )= = = det(a) 2 (A) 2 (A ) 9 2 (A)

11 3 Noyau et image d une matrice Soit A 2 R m,n et A le sous-espace vectoriel de R m engendré par ses colonnes, A := span(a : j ) apple j applen L image de A est le sous-espace vectoriel de R m défini par range(a) := {Ax : x 2 R n } Le noyau de A est la préimage du vecteur nul de R m par l application linéaire associée à A, ker(a) := {x 2 R n : Ax = 2 R m } Proposition 28 (Image d une matrice) On a A = range(a) Démonstration Il suffit de remarquer que le résultat de la multiplication (à droite) d une matrice A 2 R m,n par un vecteur x 2 R n est la combinaison linéaire des colonnes de la matrice avec coefficients donnés par les composantes de x,! (Ax) i = A ij x j 8i 2 J,mK () Ax = A : j x j Définition 29 (Rang d une matrice) On définit le rang d une matrice comme la dimension de son image, rank(a) := dim(range(a)) Proposition 3 (Propriétés du rang d une matrice) Soit A 2 R m,n Nous avons rank(a)= rank(a T ) et rank(a)+dim(ker(a)) = n Le résultat suivant, que l on admettra, établit un lien entre le déterminant, le rang, et le noyau d une matrice et son inversibilité Théorème 3 (aractérisation des matrices inversibles) Soit A 2 R n,n Les propriétés suivantes sont équivalentes : (i) A est inversible; (ii) det(a) 6= ; (iii) ker(a) ={ 2 R n }; (iv) rank(a)=n ; (v) les colonnes et les lignes de A sont linéairement indépendantes Les résultats de cette section s étendent sans difficulté au cas de matrices complexes 4 Décompositions d une matrice Il est souvent utile de décomposer une matrice en un produit de plusieurs matrices Dans cette section nous allons rappeler quelques décompositions importantes dans les applications numériques

12 4 Matrices diagonalisables Définition 32 (Matrice diagonalisable) Une matrice A 2 n,n est diagonalisable s il existe une matrice Q 2 n,n inversible telle que A = Q Q avec 2 n,n matrice diagonale Proposition 33 (Valeurs et vecteurs propres d une matrice diagonalisable) Soit A 2 n,n une matrice diagonalisable Alors, en reprenant la notation de la Définition 32, contient les valeurs propres de A et les colonnes de Q sont des vecteurs propres associés Démonstration En multipliant à droite par Q la relation A = Q Q on obtient AQ = Q, ou, de façon équivalente, où nous avons noté j =( ) jj AQ : j = Q : j = j Q : j 8 apple j apple n, La Proposition 33 suggère le résultat suivant, que nous admettrons Théorème 34 (aractérisation d une matrice diagonalisable) Une matrice A 2 n,n (resp A 2 R n,n ) est diagonalisable si et seulement si on peut construire une base de n (resp R n ) formée de vecteurs propres de A Dans certains cas, on peut prouver des propriétés additionnelles pour la matrice Q qui apparaît dans la Définition 32 Un exemple à retenir est donné dans le lemme suivant, qui affirme que les matrices normales sont les seules matrices unitairement semblables à des matrices diagonales Lemme 35 (Diagonalisation d une matrice normale) La matrice A 2 n,n est normale si et seulement s il existe une matrice unitaire U 2 n,n telle que U AU = U H AU = := diag(,, n), avec,, n 2 valeurs propres de A 42 Décomposition de Schur Pour une matrice générique, on peut prouver uniquement qu elle est unitairement semblable à une matrice triangulaire, comme l affirme le résultat suivant Théorème 36 (Décomposition de Schur (DS)) Pour toute A 2 n,n il existe U 2 n,n unitaire telle que b 2 b n U AU = U H 2 b AU = A := T, où,, n 2 sont les valeurs propres de A n

13 On pourra remarquer que, si T et une matrice carrée triangulaire supérieure, sa décomposition de Schur s obtient en posant U = I n eci implique, en particulier, que les valeurs propres de T sont ses éléments diagonaux e résultat s applique également aux matrices triangulaires inférieures Le corollaire suivant montre une autre conséquence importante de la DS, à savoir, toute matrice hermitienne est diagonalisable orollaire 37 (Valeurs propres et DS des matrices complexes hermitienne et réelles symétriques) Si la matrice A 2 n,n est hermitienne, T est diagonale, i 2 R pour tout apple i apple n, et les lignes de U (ou, de manière équivalente, les colonnes de U H = U ) sont des vecteurs propres de A D une même manière, si la matrice A 2 R n,n est symétrique, T est diagonale, i 2 R pour tout apple i apple n, U est à valeurs réelles et orthogonale, et ses lignes (ou, de manière équivalent, les colonnes de U T = U ) sont des vecteurs propres de A Démonstration On se limite à prouver le premier point omme A est hermitienne on a T H =(U H AU ) H = U H A H U = U H AU = T, ce qui implique T = diag(,, n) et, pour tout apple i apple n, i = i () =( i )= () i 2 R Pour prouver que les lignes de U sont des vecteurs propres on procède comme dans la preuve de la Proposition 33 en observant que U = U H 43 Décomposition en valeurs singulières Toute matrice A 2 m,n peut être transformée en une matrice diagonale rectangulaire à l aide de deux matrices unitaires Théorème 38 (Décomposition en valeurs singulières (DVS)) Pour toute A 2 m,n existent deux matrices unitaires U 2 m,m et V 2 n,n telles que il U H AV = = diag(, p ) 2 R m,n p := min(m,n) Les réels apple apple apple p sont dits valeurs singulières de A Si, de plus, A 2 R m,n, on a U 2 R m,m et V 2 R n,n et on peut écrire U T AV = Proposition 39 (aractérisation des valeurs singulières) Soit A 2 n,n Ona Démonstration On a i (A)= i (A H A) 8 apple i apple n H =(U H AV ) H U H AV = V H A H U H UAV = V H A H AV = V A H AV où nous avons utilisé le fait queu et V sont unitaires pour conclureu H U = I n et V H = V La matrice diagonale H contient les valeurs propres de A H A et V ses vecteurs propres Pour s en convaincre, il suffit de procéder comme dans la preuve de la Proposition 33 omme H 2 = diag( i applei applen et i (A) pour tout apple i apple n, on a donc i (A H A)= i (A) 2 () i (A)= i (A H A) 2

14 orollaire 4 (Valeurs singulières et rayon spectral d une matrice hermitienne) Si A 2 n,n est une matrice hermitienne, on a i (A)= i (A) 2 = i (A), (A)=max i (A)=kAk 2 applei applen Démonstration omme A est hermitienne on a A H A = A 2 Or, soit A et x 2 n un vecteur propre associé Alors une valeur propre de Ax = x =) AAx = Ax = 2 x, à savoir, i (A H A)= i (A 2 )= i (A) 2 = i (A) 2 pour tout apple i apple n Par la Définition 26 de rayon spectrale, on a de plus max applei applen i (A)=max applei applen i (A) = (A) La conclusion s ensuit de la Proposition 46 plus bas 5 Normes matricielles Définition 4 (Norme matricielle) Soit K un corps commutatif Une norme matricielle sur K n,n est une application k k de K n,n dans R telle que, pour tout A 2 K n,n, (i) kak > si A 6= et kak = si et seulement si A = 2 K n,n ; (ii) k Ak = kak pour tout 2 K; (iii) ka + kapplekak + k k pour tout 2 K n,n Remarque 42 (Norme sous-multiplicative) Afin d identifier des normes matricielles d intérêt pratique, on ajoute souvent la propriété suivante : pour toutes matrices A 2 R n,m et 2 R m,q, kakapplekakk k Une norme matricielle qui satisfait cette propriété s appelle sous-multiplicative On verra dans la Proposition 47 que les normes subordonnées définies plus bas sont sous-multiplicatives Dans le reste de cette section nous allons supposer A 2 R n,n sans nécessairement le préciser à chaque fois Définition 43 (Norme matricielle subordonnée à une norme vectorielle) Soit k k une norme vectorielle sur R n On définit la norme matricielle subordonné à la norme vectorielle k k par 8A 2 R n,n kaxk, kak := sup x 2R n, x 6= kx k Remarque 44 (Définitions alternatives d une norme subordonnée) Soit k k une norme vectorielle sur R n La norme matricielle subordonnée à k k vérifie pour tout A 2 R n,n, kak = sup x 2R n,kx k= kaxk = 3 sup x 2R n,kx kapple kaxk

15 Des normes matricielles particulièrement importantes sont les normes p subordonnées aux normes vectorielles définies par Ç n å X p 8x 2 R n, kx k p := x i p, (4) avec p 2 N et ette définition s étend à p réel utilisées en pratique i = kx k := max x i (5) applei applen, mais les valeurs entières de p sont les plus souvent Proposition 45 (Norme d un produit matrice-vecteur) Soit k k une norme matricielle subordonnée à la norme vectorielle k k Alors pour toute matrice A 2 R n,n et tout vecteur x 2 R n, kaxkapplekakkx k Démonstration Par définition on a kak := kayk sup y 2R n, y 6= ky k kaxk kx k, où la deuxième inégalité vient de la définition de supremum Proposition 46 (Normes, 2 et ) On a kak 2 = ka T k 2 = max applei applen i (A), (6) kak = max apple j applen a ij, (7) kak = max applei applen i = a ij (8) Démonstration Soit A 2 R n,n ) Preuve de (6) On commence par remarquer que la matrice A T A est symétrique De par le orollaire 37, il existe une matrice orthogonale U 2 R n,n telle que UA T AU T = = diag( (A T A),, n(a T A)) où on a noté i (A T A), apple i apple n, les valeurs propres de A T A (le fait que ces valeurs propres soient non négatives est une conséquence de la Proposition 39) Nous avons alors que kak 2 = sup x 2R n,kx k 2 = = sup x 2R n,kx k 2 = kaxk 2 Définition 43 p x T A T Ax Eq (4) p = sup x T U T Ux x 2R n,kx k 2 = p = sup y T y y 2R n,ku T y k 2 = = sup y 2R n,ky k 2 = = max applei applen A T A = U T U y := Ux p y T y Remarque 6 i (A T A)=max applei applen 4 i (A), Proposition 39

16 ce qui prouve le premier point 2) Preuve de (7) Pour tout x 2 R n on a que kaxk = i = Par conséquent, a ij x j apple i = kak = a ij x j = sup x 2R n,kx k = Ç n å Ç X x j a ij apple i = kaxk apple max apple j applen max apple j applen å a ij kx k i = a ij (9) Soit maintenant ĵ l indice qui réalise le maximum à droite de l expression précédente, de telle sorte à avoir : a i ĵ = max a ij apple j applen i = En choissant ˆx 2 R n tel que ˆx ĵ = et ˆx j = pour tout j 6= ĵ, on a k ˆx k = et i = i = ka ˆx k = i = a ij ˆx j = i = a i ĵ = max apple j applen a ij () i = En combinant (9) et () nous avons que max apple j applen i = a ij = ka ˆx k apple sup kaxk = kak apple max x 2R n,kx k = apple j applen ce qui prouve (7) 3) Preuve de (8) Pour tout x 2 R n on a que a ij, i = kaxk = max applei applen apple max applei applen apple max applei applen a ij x j a ij x j max x j apple j applen! a ij apple max applei applen! a ij kx k (Justifier soigneusement les passages à la deuxième et à la troisième ligne) Par conséquent, kak = sup x 2R n,kx k = kaxk apple max applei applen a ij () Notons î l indice qui réalise le maximum dans l expression précédente, et considérons le vecteur ˆx 2 R n tel que, pour tout apple j apple n, ˆx j =+si aî j, ˆx j = sinon On a clairement k ˆx k = et ka ˆx k = max applei applen a ij ˆx j = 5 aî j (2)

17 L équation (2) demande une justification détaillée Définissons les ensembles suivants : ( n X ) ( n X ) A := a ij ˆx j :apple i apple n, := a ij :apple i apple n On démontre aisément que pour tout 2A, il existe 2 tel que apple En effet, si i est tel que = P n a ij ˆx j, il suffit de prendre = P n a ij et d utiliser l inégalité triangulaire avec le fait que ˆx j = pour tout apple j apple n De plus, par définition de î, on a que max 2 = aî j = aî j ˆx j = aî j ˆx j 2A, où nous avons utilisé le fait que tous les termes de la somme sont positif dans la troisième égalité En combinant les résultats précédents on déduit (2) Enfin, la rélation (8) s ensuit en combinant () et (2) comme dans le point 2) de cette preuve Proposition 47 (Propriétés des normes subordonnées) Soit k k une norme matricielle subordonnée sur R n,n Alors, (i) pour toute matrice A 2 R n,n il existe x A 2 R n \{} tel que kak = kax A k/kx A k ; (ii) on a ki n k = ; (iii) pour toutes matrices A, 2 R n,n, kakapplekakk k Démonstration (i) La fonction kaxk définie sur R n et à valeurs réels est par définition continue car kaxkapplekakkx k Par conséquent, elle atteint son maximum sur le compact kx k = (ii) On a par définition ki n k = sup x 2R n,kx k= ki n x k = (iii) onséquence immédiate de la définition de norme matricielle On amdettra le résultat suivant qui relie le rayon spectral avec les normes matricielles subordonnées Lemme 48 (Rayon spectral et normes subordonnées) Soit k k une norme matricielle subordonnée Alors, pour toute matrice A 2 R n,n, (A) applekak Reciproquement, pour toute matrice A et tout réel >, il existe une norme subordonnée k k telle que kakapple (A)+ 6

18 6 Exercices Exercice 49 (Matrice SDP) Soit A =(a ij ) 2 R n,n une matrice SDP Prouver que a kk > pour tout apple k apple n Exercice 5 (Matrice antisymétrique) Soit A 2 R n,n une matrice antisymétrique, à savoir A T = A On pose ± := I n ± A On supposera inversible (i) Vérifier que + est inversible et identifier son inverse (ii) Vérifier que est normale (iii) Montrer que la matrice := + est orthogonale, à savoir, = T Exercice 5 (Matrice hermitienne et antihermitienne) Une matrice A 2 n,n est dite antihermitienne si A H = A Montrer que (i) les éléments diagonaux d une matrice hermitienne sont des réels tandis que ceux d une matrice antihermitienne sont des imaginaires purs; (ii) montrer que, si une matrice triangulaire est hermitienne ou antihermitienne, elle est diagonale Exercice 52 (Matrices de Hilbert) La matrice de Hilbert H (n)=(h ij ) 2 R n,n d ordre n est la matrice carrée symétrique à valeurs réelles telle que Montrer que H (n) est définie positive h ij = i + j Exercice 53 Soient A, 2 R n,n deux matrices inversibles telles que A + est inversible Montrer que A + est inversible et qu on a A + = (A + ) A = A (A + ) Exercice 54 (Valeurs propres d un polynôme à variable matricielle) Soit A 2 n,n Montrer que, si P (A) := P n k= c k A k et (A) est le spectre de A, on a (P (A)) = P ( (A)) Exercice 55 (Valeurs singulières de l inverse d une matrice) Soit A 2 n,n inversible Exprimer les valeurs singulières de A en fonction de celles de A 7

19 Exercice 56 (Inégalité de Kantorovitch) Soit A 2 R n,n SDP, et soit min et max respectivement la plus petite et la plus grande valeur propre de A Alors, pour tout x 2 R n, (Ax, x )(A x, x ) apple 4 Çv t max min v t + min max å 2 kx k 2 2 Exercice 57 Soit A une matrice HDP et 2 R + Montrer que la matrice I n + A est inversible, que le rayon spectral de la matrice :=(I n A)(I n + A) est < et que la matrice est hermitienne Exercice 58 (Pséudo-inverse de Moore Penrose) Soient m et n deux entiers avec m n, et soit A 2 R m,n une matrice de rang n On admettra par la suite que A T A 2 R n,n est définie positive et donc inversible On définit la pseudo-inverse de Moore Penrose par Prouver les propriétés suivantes : A :=(A T A) A T A A = I n, A AA = A, si m = n, A = A ; Soit b 2 R m On considère le problème dit aux moindres carrés min J (y ) := kay b k 2 y 2R n 2 e problème admet une unique solution x caractérisée par la propriété rj (y )= Montrer que x = A b Exercice 59 (Valeurs singulières d une matrice normale) Soit A 2 n,n une matrice normale Montrer que les valeurs singulières de A sont les modules de ses valeurs propres Exercice 6 (Norme subordonnée) Montrer que toute norme subordonnée satisfait les propriétés caractérisant une norme matricielle (voir Definition 4) Exercice 6 (Inégalité triangulaire) Soit k k une norme matricielle subordonnée Prouver que pour tout A, 2 n,n, ka + kapplekak + k k Exercice 62 (Norme d une matrice unitaire) Soit U 2 n,n une matrice unitaire Prouver que ku k 2 = et que pour tout A 2 n,n on a kau k 2 = kuak 2 = kak 2 8

20 Exercice 63 (Norme de Frobenius) Soit A =(a ik ) 2 R n,n La norme de Frobenius est définie par kak F := a ij 2 i = ette norme n est pas subordonnée à une norme vectorielle Prouver que alculer ki n k F n kak applekak F apple p nkak, n kak applekak F apple p nkak Exercice 64 (Rayon spectral) Soit A 2 R n,n une matrice SDP Montrer que (A) < si et seulement s il existe une matrice Q 2 R n,n SDP telle que := Q A T Q A est SDP 9