Algèbre linéaire. François Cuvelier, Caroline Japhet Version du 20 octobre Vecteurs 1

Transcription

1 Algèbre linéaire François Cuvelier, Caroline Japhet Version du 20 octobre 2015 Table des matières 1 Vecteurs 1 2 Matrices 2 21 Généralités 2 22 Matrices particulières 6 3 Réduction des matrices 7 4 Normes vectorielles et normes matricielles 8 5 Suites de vecteurs et de matrices 10 Soit V un espace vectoriel de dimension finie n, sur le corps R des nombres réels, ou sur le corps C des nombres complexes Notons plus généralement K le corps R ou C 1 Vecteurs Une base de V est un ensemble te 1, e 2,, e n u de n vecteurs linéairement indépendants Le vecteur v n v i e i sera représenté par le vecteur colonne v et on désignera par v t et v les vecteurs lignes suivants v 1 v 2 v n v t v 1 v 2 v n, v v 1 v 2 v n où α est le nombre complexe conjugué du nombre α Définition 11 Le vecteur ligne v t est le vecteur transposé du vecteur colonne v Le vecteur ligne v est le vecteur adjoint du vecteur colonne v Définition 12 L application p, q : V V Ñ K définie par pu, vq u t v v t u u i v i, pu, vq v u u v pv, uq si K R v i u i, si K C 1

2 est appelée produit scalaire euclidien si K R, hermitien si K C Pour rappeler la dimension de l espace, on écrit pu, vq pu, vq n Définition 13 Soit V est un espace vectoriel muni d un produit scalaire Deux vecteurs u et v sont orthogonaux si pu, vq 0 Un vecteur v est orthogonal à une partie U de V P U, pu, vq 0 On note v K U Un ensemble de vecteurs tv 1, v 2,, v k u de l espace V est dit orthonormal si pv i, v j q δ jq P v1, kw 2 où δ ij est le symbole de Kronecker : δ ij " 1 si i j, 0 si i j Définition 14 Le vecteur nul est représenté par la lettre 0 Définition 15 Soit u P K n non nul On définit l opérateur de projection sur u par k1 proj u pvq pv, uq pu, uq P Kn (11) Rappel 11 (Procédé de Gram-Schmidt) Soit tv i u ipv1,nw une base de K n On construit successivement les vecteurs u i i 1 i 1 pu k, v i q u i v i proj vi pu k q v i pu k, u k q u P v1, nw Ils forment une base orthogonale de K n u En normalisant, z i P v1, nw, on obtient la base orthonormale tz pu i,u iq 1{2 i u ipv1,nw de K n 2 Matrices 21 Généralités Une matrice à m lignes et n colonnes est appelée matrice de type pm, nq, et on note M m,n pkq, ou simplement M m,n, l espace vectoriel sur le corps K formé par les matrices de type pm, nq à éléments dans K Une matrice A P M m,n pkq d éléments a ij P K est notée k1 A pa ij q 1im, 1jn, le premier indice i correspond aux lignes et le second j aux colonnes On désigne aussi par paq ij l élément de la i ème ligne et de la j ème colonne Définition 21 La matrice nulle est représentée par la lettre 0 Définition 22 Soit une matrice A P M m,n pcq, on note A P M n,m pcq la matrice adjointe de la matrice A, définie de façon unique par pau, vq m pu, A vq P C P C m qui entraine pa q ij a ji Soit une matrice A P M m,n prq, on note A t P M n,m prq la matrice transposée de la matrice A, définie de façon unique par pau, vq m u, A t v P P R m qui entraine pa t q ij a ji 2

3 Définition 23 Si A P M m,p pkq et B P M p,n pkq, leur produit AB P M m,n pkq est défini par pabq ij On a alors p k1 a ik b P v1, P v1, nw (21) si K R : pabq t B t A t, pa Bq t A t B t, pa t q t A, pαaq t αa P R, (22) si K C : pabq B A, pa Bq A B, pa q A, pαaq P C (23) Définition 24 Une matrice de type pn, nq est dite matrice carrée, ou matrice d ordre n On note M n M n,n ou M n pkq M n,n pkq l anneau des matrices carrées d ordre n, à éléments dans le corps K Les matrices considérées jusqu a la fin de ce paragraphe sont carrées Définition 25 Si A P M n alors les éléments a ii paq ii sont appelés éléments diagonaux et les éléments a ij paq ij, i j sont appelés éléments hors-diagonaux Définition 26 On appelle matrice identitée de M n la matrice dont les éléments diagonaux sont tous égaux à 1 et les éléments hors-diagonaux nuls On la note I ou encore I n et on a piq i,j δ jq P v1, nw 2 Définition 27 Une matrice A P M n pkq est inversible s il existe une unique matrice de M n pkq, notée A -1 et appelée matrice inverse de la matrice A, telle que Dans le cas contraire, on dit que la matrice A est singulière AA -1 A -1 A I (24) Rappel 21 Soient A P M n pkq et B P M n pkq inversibles Alors AB inversible et Définition 28 Une matrice carrée A est : symétrique si A est réelle et A A t, hermitienne si A A, normale si AA A A, orthogonale si A est réelle et AA t A t A I, unitaire si AA A A I, pa t q -1 pa -1 q t, si K R, (25) pa q -1 pa -1 q, si K C (26) pabq -1 B -1 A -1 (27) pa -1 q -1 A (28) Définition 29 Une matrice carrée A P M n pkq est : diagonale si a ij 0 pour i j, triangulaire supérieure si a ij 0 pour i j, triangulaire inférieure si a ij 0 pour i j, triangulaire si elle est triangulaire supérieure ou triangulaire inférieure à diagonale dominante si a ii a P v1, nw, (29) à diagonale strictement dominante si ji a ii a P v1, nw (210) ji 3

4 Définition 210 Soit A P M n pcq hermitienne (resp A P M n prq symétrique) Elle est définie positive si Elle est semi définie positive si pau, uq P C n zt0u presp pau, uq P R n zt0uq (211) pau, uq P C n zt0u presp pau, uq P R n zt0uq (212) Une matrice A P M n pcq hermitienne (ou A P M n prq symétrique) est définie positive si et seulement si ses valeurs propres sont strictement positives Dans ce cas, A est inversible Rappel 22 Soit A P M n pcq hermitienne (resp A P M n prq symétrique) Alors les propriétés suivantes sont équivalentes : A est définie positive, les sous-matrices principales A p pa ij q 1jp, 1 p n, de A ont toutes un déterminant strictement positif (critère de Sylvester), il existe une matrice inversible B P M n pcq telle que A BB (resp il existe une matrice inversible B P M n prq telle que A BB t ) Définition 211 Soit A P M n pkq La trace d une matrice carrée A pa ij q est définie par tr paq a ii Définition 212 Soit T n le groupe des permutations de l ensemble t1, 2,, nu A tout élément σ P T n, on associe la matrice de permutation P σ δ iσpjq Rappel 23 Une matrice de permutation est orthogonale Définition 213 Soit A P M n pkq Le déterminant d une matrice A est défini par oà ε σ désigne la signature de la permutation σ det paq n¹ ε σ a σpjqj σpt n j1 Définition 214 On appelle mineur associé à a ij le déterminant de la matrice A ij d ordre n 1 obtenue à partir de A en éliminant la i-ième ligne et la j-ième colonne Le cofacteur de a ij est défini par ij p 1q i j detpa ij q, le calcul de detpaq s effectue par : detpaq $ '& '% a 11, si n 1, ij a ij p j1 ij a ij q, pour n 1 Définition 215 Soit A P M n pkq On dit que λ P C est valeur propre de A s il existe u P C n non nul tel que Le vecteur u est appelé vecteur propre associé à la valeur propre λ Le couple pλ, uq est appelé élément propre de A Au λu (213) Définition 216 Soit A P M n pkq Soit λ P C une valeur propre de A Le sous-espace est appelé sous-espace propre associé à la valeur propre λ E λ tu P C n : Au λuu KerpA λiq (214) 4

5 Définition 217 Soit A P M n pkq Le polynôme de degré n défini par est appellé polynôme caractéristique de la matrice A PApλq detpa λiq (215) Rappel 24 Soit A P M n pkq Les racines du polynôme caractéristique PA sont les valeurs propres de la matrice A Si la racine λ de PA est de multiplicité k, on dit que la valeur propre λ est de multiplicité algébrique k La matrice A possède n valeurs propres distinctes ou non (PA est de degré n par rapport à λ) Si A est réelle, PApλq est à coefficients réels et les valeurs propres complexes sont donc deux à deux conjuguées Si A est hermitienne, ses valeurs propres sont réelles Rappel 25 Soit A P M n pkq Soit λ 1,, Λ k des valeurs propres distinctes de A On a E λ1 E λk E λ1 ` ` E λk (216) Définition 218 Soit A P M n pkq On note λ i paq, i P v1, nw, les n valeurs propres de A Le spectre de la matrice A est le sous-ensemble du plan complexe Sp paq n tλ i paqu (217) Définition 219 Le rayon spectral d une matrice A P M n pkq est le nombre 0 défini par ρpaq max t λ i paq ; i P v1, nwu Rappel 26 Soient A P M n pcq et B P M n pcq On a les relations suivantes tr paq detpaq n¹ λ i paq, (218) λ i paq, (219) tr pabq tr pbaq, (220) tr pa Bq tr A tr B, (221) det pabq det paq det pbq det pbaq, (222) detpa q detpaq (223) SppA q SppĀq, (224) ρpaq ρpa q, (225) ρpαaq α P C, (226) ρpa k q pρpaqq P N (227) Définition 220 Soit X et Y deux espaces vectoriels sur K Une application linéaire de X sur Y est une fonction f : X Ñ Y telle que fpαx βyq αfpxq β P y P X Soit X et Y deux espaces vectoriels sur K de dimensions n et m respectivement Si f : X Ñ Y est une application linéaire, alors il existe une unique matrice A P M m,n pkq telle que fpxq P X (228) Inversement, si A P M m,n pkq, alors la fonction définie par (228) est une application linéaire de X sur Y Définition 221 Soit X et Y deux espaces vectoriels sur K On note KerpAq tv P X ; Av 0u le noyau de l application linéaire A : X Ñ Y On note ImpAq tav P Y ; v P Xu l image de l application linéaire A : X Ñ Y 5

6 Définition 222 Le rang d une matrice A, noté rgpaq, est défini comme le rang de l application linéaire A qui lui et associé rgpaq dimpimpaqq On appelle déterminant extrait d ordre q (q 1), celui de n importe quelle matrice d ordre q obtenue à partir de A en éliminant m q lignes et n q colonnes Le rang de A est l ordre maximum des déterminants extraits non nuls de A Une matrice A P M m,n pkq est de rang maximum si rgpaq minpm, nq Rappel 27 Soit A P M n pkq On a les propriétés suivantes rgpaq nombre maximum de vecteurs colonnes de A linéairement indépendants, (229) rgpaq nombre maximum de vecteurs lignes de A linéairement indépendants, (230) rgpaq dimpkerpaqq n, (231) rgpaq rgpa t q, si K R, (232) rgpaq rgpa q, si K C, (233) detpaq 0 ðñ A inversible ðñ KerpAq t0u ðñ rgpaq n (234) 22 Matrices particulières Définition 223 On appelle sous-matrice d une matrice donnée, la matrice obtenue en supprimant certaines lignes et certaines colonnes En particulier, si on supprime les pn kq dernières lignes et colonnes d une matrice carrée A d ordre n, on obtient la sous matrice principale d ordre k Définition 224 Une matrice A P M n est triangulaire inférieure si a ij 0 pour i supérieure si a ij 0 pour i j Elles sont de la forme L l l 21 l 22 0 ou U l n1 l n2 l nn u 11 u 12 u 1n 0 u 22 u 2n 0 0 u nn j, et triangulaire L est triangulaire inférieure et U est triangulaire supérieure Rappel 28 On a les propriétés suivantes : Soit L triangulaire inférieure inversible, alors son inverse est triangulaire inférieure, et l 1 ii 1 l ii Si L p1q, L p2q sont triangulaires inférieures, alors L L p1q L p2q est triangulaire inférieure, et l ii l p1q ii lp2q De plus, si l p1q ii l p2q ii alors l ii Ces propriétés restent vraies si on remplace inférieur par supérieur La transposée d une matrice triangulaire inférieure est triangulaire supérieure et réciproquement Définition 225 On appelle matrice bloc une matrice carrée A P M n pouvant s écrire sous la forme A A 1,1 A 1,2 A 1,k A 2,1 A 2,2 Ak 1,k A k,1 A k,k 1 A k,k où A i,j est une matrice (non nécéssairement carrée) et les matrices diagonales A i,i sont carrées, et k i n Définition 226 On dit qu une matrice carrée A est triangulaire inférieure (resp supérieure) par blocs si elle peut s écrire sous la forme d une matrice bloc avec les sous matrices A i,j 0 pour i j (resp i j) Définition 227 On dit qu une matrice carrée A est diagonale par blocs si elle peut s écrire sous la forme d une matrice bloc avec les sous matrices A i,j 0 pour i j 6

7 Définition 228 Soit A P M n pkq On dit que A est une matrice bande si a ij 0 pour j i c, et a ij 0 sinon On appelle c est la demi largeur de bande Lorsque c 1, la matrice est dite tridiagonale Lorsque c 2, la matrice est dite pentadiagonale Rappel 29 On a les propriétés suivantes : Soit D diagonale par blocs, D diagpd 11,, D kk q avec D ii, 1 i k, des matrices carrées Alors det D k¹ detpd ii q, et SppDq k SppD ii q Soit A une matrice triangulaire par blocs, avec des blocs diagonaux (matrices carrées) A ii, 1 i k Alors detpaq k¹ detpa ii q et SppAq k SppA ii q En particulier, si A est triangulaire d ordre n, alors detpaq 3 Réduction des matrices n¹ a ii, SppAq ta ii, 1 i nu Définition 31 Soit A : V Ñ V une application linéaire, représenté par une matrice carrée A P M n pkq relativement à une base te i u ipv1,nw Relativement à une autre base tf i u ipv1,nw, la même application est représentée par la matrice B P -1 AP (31) où P est la matrice inversible dont le j-ème vecteur colonne est formé des composantes du vecteur f j dans la base te i u ipv1,nw La matrice P est appelée matrice de passage de la base te i u ipv1,nw dans le base tf i u ipv1,nw Si la base tf i u ipv1,nw est orthonormée, on a : P pe 1, f 1 q pe 1, f 2 q pe 1, f n q pe 2, f 1 q pe 1, f 2 q pen 1, f n q pe n, f 1 q pe n, f n 1 q pe n, f n q Définition 32 On dit que la matrice carrée A est diagonalisable s il existe une matrice inversible P telle que la matrice P 1 AP soit diagonale Rappel 31 On notera que, dans le cas où A P M n est diagonalisable, les éléments diagonaux de la matrice P -1 AP sont les valeurs propres λ 1, λ 2,, λ n de la matrice A, et que le j-ème vecteur colonne p j de la matrice P est formé des composantes, dans la même base que A, d un vecteur propre associé à la valeur propre λ j On a (32) P -1 AP diag pλ 1,, λ n q ðñ Ap j λ j p P v1, nw (33) C est à dire qu une matrice est diagonalisable si, et seulement si, il existe une base de vecteurs propres Théorème 31 (Décomposition de Schur) Soit A P M n pcq Alors il existe une matrice unitaire U telle que la matrice U -1 AU P M n pcq soit triangulaire : U AU λ 1 t 1,2 t 1,n 0 λ 2 tn 1,n 0 0 λ n Corollaire 32 Soit A P M n pcq une matrice normale Alors il existe une matrice unitaire U telle que la matrice U -1 AU soit diagonale Si de plus A est unitaire, alors ses valeurs propres vérifient : λ i 1, 1 i n Théorème 33 (Décomposition de Schur réelle ) Soit A P M n prq Alors il existe une matrice orthogonale Q telle que Q t AQ soit triangulaire par blocs : Q t AQ R 1,1 R 1,2 R 1,k 0 R 2,2 Rk 1,k 0 0 R k,k 7

8 où chaque bloc R ii P M di prq, 1 i k est soit de taille d 1 (pour une valeur propre réelle), soit de taille d 2 et pleine, avec deux valeurs propres complexes conjuguées, et k d i n Corollaire 34 Soit A P M n prq une matrice symétrique Alors il existe une matrice orthogonale Q telle que la matrice Q -1 AQ soit diagonale Les vecteurs propres de A sont les vecteurs colonnes de Q -1 et forment une base de R n Remarque 1 D après le Théorème 31, si A P M n pcq, alors detpaq n¹ λ i, trpaq Théorème 35 (Décomposition de Jordan) Soit A P M n pcq, avec SppAq tλ i u 1in Alors il existe une matrice inversible X telle que X 1 AX J diagpj k1 pλ 1 q,, J kl pλ l qq, où J est la forme canonique de Jordan, et J k pλq P M k pcq un bloc de Jordan de la forme J 1 pλq λ et J k pλq λ λ λ λ A est diagonalisable ðñ l n, et k 1 k n 1 4 Normes vectorielles et normes matricielles, pour k 1 λ i Définition 41 Une norme sur un espace vectoriel V est une application }} : V Ñ R suivantes }v} 0 ðñ v 0, }αv} α P P V, }u u v} }u} pu, vq P V 2 (inégalité triangulaire) Une norme sur V est également appelée norme vectorielle On appelle espace vectoriel normé un espace vectoriel muni d une norme qui vérifie les propriétés Les normes suivantes sont les plus couramment utilisées : }v} 1 }v} 2 v i }v} 8 max v i i v i 2 1{2 }v} A pav, vq 1 2, avec A P Mn, v P R n, et A symétrique définie positive Théorème 41 Soit V un espace de dimension finie Pour tout nombre réel p 1, l application }} p définie par 1{p }v} p v i p est une norme Rappel 41 Inégalité de Cauchy-Schwarz Pour tout x, y P R n, px, yq }x} 2 }y} 2 On a l égalité si et seulement si y αx pour un α P R 8

9 Rappel 42 Inégalité de Hölder Pour p 1 et 1 1 p q 1, on v P Kn }uv uv} 1 u i v i u i p 1{p v i q 1{q }u} p }v} q (41) Rappel 43 Orthogonalité x, y P V sont orthogonaux si px, yq 0 Interprétation géométrique dans V R 2 : px, yq }x} 2 }y} 2 cospθq, avec θ l angle entre x et y Si px, yq 0, alors θ est un angle droit Définition 42 Deux normes }} et }} 1, définies sur un même espace vectoriel V, sont équivalentes s il existe deux constantes C et C 1 telles que C }v} 1 }v} C 1 }v} 1 pour tout v P V (42) Rappel 44 Sur un espace vectoriel de dimension finie toutes les normes sont équivalentes Définition 43 Une norme matricielle sur M n pkq est une application }} : M n pkq Ñ R 1 }A} 0 ðñ A 0, 2 }αa} α P P M n pkq, 3 }A B} }A} pa, Bq P M n pkq 2 (inégalité triangulaire) 4 }AB} }A} pa, Bq P M n pkq 2 Rappel 45 Etant donné une norme vectorielle }} sur K n, l application }} s : M n pkq Ñ R vérifiant définie par }Av} }A} s sup vpk n }v} sup }Av} sup }Av}, (43) vpk n vpk n v0 }v}1 }v}1 est une norme matricielle, appelée norme matricielle subordonnée (à la norme vectorielle donnée) De plus }Av} }A} s P K n (44) et la norme }A} peut se définir aussi par Il existe au moins un vecteur u P K n tel que }A} s inf tα P R : }Av} α P K n u (45) u 0 et }Au} }A} s }u} (46) Enfin une norme subordonnée vérifie toujours }I} s 1 (47) Théorème 42 Soit A P M n pcq On a déf }Av} }A} 1 sup 1 max vpc n }v} 1 jpv1,nw v0 a ij (48) déf }Av} a a }A} 2 sup 2 ρ pa vpc n }v} Aq ρ paa q }A } 2 (49) 2 v0 déf }Av} }A} 8 sup 8 max vpc n }v} 8 ipv1,nw v0 La norme }} 2 est invariante par transformation unitaire : Par ailleurs, si la matrice A est hermitienne : j1 a ij (410) UU I ùñ }A} 2 }AU} 2 }UA} 2 }U AU} 2 (411) AA A 2 ùñ }A} 2 ρpaq (412) 9

10 Remarque 2 1 Si une matrice A est hermitienne, ou symétrique (donc normale), on a }A} 2 ρpaq 2 Si une matrice A est unitaire, ou orthogonale (donc normale), on a }A} 2 1 Théorème 43 1 Soit A une matrice carrée quelconque et }} une norme matricielle subordonnée ou non, quelconque Alors ρpaq }A} (413) 2 Etant donné une matrice A et un nombre ε 0, il existe au moins une norme matricielle subordonnée telle que }A} ρpaq ε (414) Théorème 44 L application }} E : M n Ñ R }A} E définie par pi,jqpv1,nw 2 a ij 2 1{2 a tr pa Aq, (415) pour toute matrice A pa ij q d ordre n, est une norme matricielle non subordonnée (pour n 2), invariante par transformation unitaire et qui vérifie De plus }I} E? n }A} 2 }A} E? n }A} P M n (416) Théorème 45 1 Soit }} une norme matricielle subordonnée, et B une matrice vérifiant }B} 1 Alors la matrice pi Bq est inversible, et pi Bq }B} 2 Si une matrice de la forme pi Bq est singulière, alors nécessairement pour toute norme matricielle, subordonnée ou non 5 Suites de vecteurs et de matrices }B} 1 Définition 51 (Convergence d une suite de vecteurs) Soit V un espace vectoriel muni d une norme }}, on dit qu une suite pv k q d éléments de V converge vers un élément v P V, si lim }v k v} 0 kñ8 et on écrit v lim kñ8 v k Définition 52 (Convergence d une suite de matrices) On dit qu une suite de matrices converge vers A P M n si : lim kñ8 }Apkq A} 0 A pkq( P M n Théorème 51 Soit B une matrice carrée Les conditions suivantes sont équivalentes : 1 lim kñ8 B k 0, 2 lim kñ8 B k v 0 pour tout vecteur v, 3 ρpbq 1, 4 }B} 1 pour au moins une norme matricielle subordonnée }} 10

11 Théorème 52 Soit B une matrice carrée, et }} une norme matricielle Alors Théorème 53 Soit A P M n Alors 8 k0 Dans ce cas I A est inversible et on a lim kñ8 B k 1{k ρpbq A k convergente si et seulement si ρpaq 1 8 k0 A k pi Aq 1 De plus, où } } est une norme matricielle subordonnée telle que }A} }A} }pi Aq 1 } 1 1 }A}, Théorème 54 (Convergence d une méthode itérative) Soit A P M n, b P R n, et B I A Une méthode itérative est de la forme x p0q donné, x pk 1q Bx pkq b, où B est appelée matrice d itération La suite de vecteurs x pkq( converge vers la solution de Ax b (ie x Bx b), pour toute donnée initiale x p0q si et seulement si ρpbq 1 11