Normes de vecteurs et de matrices

Transcription

1 Chapitre 2 Normes de vecteurs et de matrices 2.1 Introduction La plupart des problèmes de la physique mettent en jeu des quantités approchées connues par exemple avec un certain pourcentage d erreur. Lorsque ces problèmes sont résolus sur ordinateur, se pose naturellement la question de la mesure des erreurs à la fin du processus de calcul. De même, lorsque des processus itératifs sont utilisés pour le calcul des solutions, notamment pour les problèmes non linéaires, la détection de la convergence s exprime naturellement en termes de normes de vecteurs. Ainsi la première partie de ce chapitre est consacrée à un exposé élémentaire de la notion de norme de vecteur. Enfin, lorsqu une analyse d erreur est menée et que des opérateurs linéaires sont en jeu, comme c est le cas lors de la résolution de systèmes d équations linéaires ou linéarisés, cette analyse est grandement facilitée par l emploi de normes matricielles, qui seront présentées en fin de chapitre. 2.2 Normes de vecteurs Definition 2.1 Une fonction ν : R n R est une norme sur R n si elle satisfait les trois conditions : 1. x 0 ν(x) > 0 2. ν(αx) = α ν(x) pour α R 3. ν(x + y) ν(x) + ν(y) Trois conséquences de la définition 2.1 sont : ν(0) = 0 ν( x) = ν(x) ν(x) ν(y) ν(x y) Proposition 2.2 On sait qu en dimension finie, toutes les normes sont équivalentes. Nous voyons ici des cas particuliers. Pour tout x R n, x 2 x 1 n x 2 1

2 2 Chapitre 2 : Normes de vecteurs et de matrices 1 n x 2 x x 2 x x 1 n x Dans chaque cas ces égalités peuvent être atteintes. Preuve 2.1 Démonstration. : Soit x = (x 1,... x n ) T R n. Pour x 2 x 1 n x 2, on part de x i 2 ( x i ) 2, et en prenant la racine de cette inégalité entre positifs on obtient la première inégalité. En utilisant l inégalité de Cauchy pour le produit scalaire canonique, on obtient 1 x i n x 2, qui est bien la seconde inégalité. Ces inégalités sont atteignables pour x = (1, 0,..., 0) T ( x 2 = x 1 = 1) et pour x = (1, 1,..., 1) T ( n = x 1 = n x 2 ). 1 Pour x n 2 x x 2, on a que i x i 2 i max j x j 2 n x 2. Pour la seconde inégalité, on a que max j x j 2 i x i 2, ce qui est bien le résultat escompté. Ces inégalités sont atteignables pour x = (1, 0,..., 0) T ( x 2 = x = 1) et pour x = (1, 1,..., 1) T ( n = x 2 = n x ). La dernière série d inégalités est une conséquence des deux premières. Exercice 2.1 Utilisation de normes relatives. Supposons que X et Y sont deux nombres entiers positifs représentés exactement en base 10 en utilisant 6 chiffres significatifs. Suppposons que X = [x 1 x 2 x 3 x 4 x 5 x 6 ] et Y = [x 1 x 2 x 3 y 4 y 5 y 6 ], avec x 1 0 et x 4 y 4. Trouver un majorant de la quantité erreur relative ϱ = X Y X. Généraliser au cas ou l accord de X et Y a lieu sur p chiffres p > 2. Intuitivement que peut-il se passer si X et Y sont des vecteurs? Preuve 2.2 Démonstration. Commencons par un exemple où X = Dans la table ci-dessous, la quantité ϱ est donnée pour plusieurs valeurs de Y : approximation ϱ Cet exemple montre que le nombre de chiffres de tête en commun a l air d être lié à la valeur de ϱ. Reprenons un cas plus général. Le plus grand écart a lieu si X est le plus petit possible et Y le plus grand possible. Cela a lieu pour X = x 1 x 2 x et Y = x 1 x 2 x 3 000, 999 l écart est 999. L erreur relative est donc majorée par < Plus généralement si x i = y i pour i = 1... p. L écart maximal est 10 n p (majorant de l écart entre 9 }.{{.. 9} et n p

3 3 Chapitre 2 : Normes de vecteurs et de matrices 0 }.{{.. 0} ) l erreur relative est majorée par 10n p = 10 1 p. Donc si l erreur relative excède 10 n 1 n p 10 1 p, on est sûr que X et Y ont moins de p chiffres de tête en commun. La quantité ϱ est donc très utile lorsque les erreurs sont exprimées en terme de chiffres significatifs, ce qui est souvent le cas lorsque l on traite des quantités physiques mesurées. L extension aux vecteurs est délicate et dépend de la norme vectorielle choisie. Prenons par exemple la norme infinie. soit Y = (1000, 10, 1) T et X = (1002, 13, 2) T X Y. On a alors X = , alors que les erreurs composantes à composantes sont (2 10 3, , ) T. Donc l erreur en norme est plutôt liée dans ce cas au nombre de chiffres de tête en commun sur la plus grande composante. 2.3 Normes de matrices Par exemple, la norme de Frobenius A F = ( m n j=1 a ij 2 ) 1 2 est une norme de matrice (c est la norme euclidienne de A considérée comme un long vecteur). Definition 2.3 On appelle norme matricielle une norme définie pour des matrices carrées qui vérifie, en plus de la définition 2.1, la relation AB A B. Si on considère A comme représentant un opérateur linéaire, la norme de l application linéaire A R n n, induite par le choix d une norme. sur R n, est une norme matricielle. Celle-ci est définie par : A = max x 0 Ax x = max A x x 0 x = max Ax = max Ax. x =1 x 0 x 1 Ces notions se généralisent aisément aux matrices rectangulaires. On définit par exemple ainsi, pour A R m n, Ax = max 2. x 0 x 2 Proposition 2.4 Montrez que la norme de Frobenius est une norme matricielle. Soit A m = max ( ij a ij. ) 1 1 Avec A =. La norme 1 1 m est-elle une norme matricielle? Preuve 2.3 Démonstration. : Posons C = AB et soit a i la ième ligne de A et b j la jème colonne de B. Alors pour tout i, j c ij = a T i b j. Donc C 2 F = ij (at i b j) 2. D après l inégalité de Cauchy-Schwarz, pour tout i, j, (a T i b j) 2 a i 2 2 b j 2 2, donc C 2 F i a i 2 2 j b j 2 2. Or B 2 F = ij b2 ij = j b j 2 F, et de même, A 2 F = i a i 2 F. Par conséquent, C 2 F i a i 2 2 B 2 F = A 2 F B 2 F.

4 4 Chapitre 2 : Normes de vecteurs et de matrices Pour la seconde partie, avec A = 2 > A m A m = 1. ( ) ( 2 2, et A 2 = 2 2 ), on obtient A 2 m = Proposition 2.5 Soit A R m n. Montrez que les normes induites par les normes de vecteur x 1 et x sont respectivement : A 1 = max 1 j n A = max 1 i m a ij m a ij Preuve 2.4 Démonstration. Première égalité. Soit y = Ax et C 1 = max m 1 j n a ij. Partant de ( m m m ) y i a ij x j x j a ij x j C 1, j=1 j=1 on obtient que Ax 1 C A 1, d où A 1 C 1. D autre part, soit j 0 l indice permettant d atteindre le max dans C 1 et e j0 le j 0 -ème vecteur de base canonique. Alors e j0 1 = 1 et Ae j0 1 = n a ij 0 = C 1 e j0 1, d où A 1 C 1 et donc A 1 = C 1. Deuxième égalité. Soit à présent C inf = max m 1 i m j=1 a ij. j=1 j=1 y i a ij x j a ij x C inf x, ce qui montre que en passant au max sur i que Ax C inf x et donc que A C inf. Soit i 0 l indice permettant d atteindre le max dans C inf et soit z j tel que z j a i0 j = a i0 j si a i0 j 0 et z j = 0 sinon. Si A = 0 le résultat est clair. Si A 0, il existe j 0 tel que z j0 = 1 et, puisque z j 1, on a z = 1. Posons w = Az on a, w i n j=1 a ij C inf = n j=1 a i 0 j = w i0 = C inf z. Donc en passant au max sur i, on obtient w i0 = Az = C inf z, d où C inf A et donc C inf = A. Proposition 2.6 Soit A R m n. On a = ρ(a T A), où ρ est le rayon spectral défini comme le plus grand module des valeurs propres de A : ρ(a) = max{ λ, λ valeur propre de A}

5 5 Chapitre 2 : Normes de vecteurs et de matrices Preuve 2.5 Démonstration. La matrice A T A étant hermitienne semi-définie positive, A T A s écrit A T A = QDQ T, avec d ii 0 et ρ(a T A) = max i d ii. On a alors Ax 2 2 = x T QDQ T x. D après l inégalité de Cauchy, Ax 2 2 Q T x 2 DQ T x 2 Q T x 2 2 D 2. Comme Q T x 2 2 = xt QQ T x = x T x = x 2 2, on obtient Ax 2 2 ρ(at A) x 2 2, et donc ρ(a T A). De plus, si i 0 est tel que ρ(a T A) = d i0 i 0, et alors alors A T Aq i0 = ρ(a T A)q i0, et donc Aq i0 2 2 = ρ(at A) q i0 2, ce qui implique ρ(a T A) et donc = ρ(a T A). Definition 2.7 Une norme. est dite unitairement invariante si, quelles que soient les matrices (carrées) unitaires Q et Q, alors i) pour un vecteur x quelconque, x = Qx où. est une norme de vecteur, ii) pour une matrice A rectangulaire quelconque, A = QA = AQ = QAQ, où. est une norme de matrice. Proposition 2.8 La norme euclidienne, sa norme induite et la norme de Frobenius sont unitairement invariantes. Preuve 2.6 Démonstration. Cas de la norme euclidienne : Qx 2 = (Qx) T Qx = x T Q T Qx = x T x car Q est une matrice unitaire. Cas de la norme induite par la norme euclidienne : En utilisant = ρ(a T A), on obtient que QAQ = ρ(q A T Q T QAQ ) = ρ(q T A T AQ ) = ρ(a T A), où l on a utilisé successivement Q T Q = I et le fait que Q T A T AQ et A T A ont les mêmes valeurs propres. Cas de la norme de Frobenius : Par définition du produit matrice matrice, F = tr(at A) = n m k=1 a2 ki. Alors QAQ 2 F = tr(q T A T Q T QAQ ) = tr(q T A T AQ ), car Q T Q = I. En utilisant tr(ab) = tr(ba), et Q Q T = I, on obtient tr(q T A T AQ ) = tr(a T AQ Q T ) = tr(a T A) = F. 2.4 Norme induite et rayon spectral Proposition Soit A une matrice carrée d ordre n. Pour toute norme matricielle, induite ou non, ρ(a) A. 2. Si A est diagonalisable, il existe une norme induite (dépendant de A) telle que A = ρ(a).

6 6 Chapitre 2 : Normes de vecteurs et de matrices 3. On admet que (Householder Ostrowski) Pour toute matrice A R n n, et pour tout ɛ > 0, il existe au moins une norme induite (dépendant de ɛ et de A) telle que A ρ(a) + ɛ. 4. Soit A une matrice carrée. Les conditions suivantes sont équivalentes : i) lim k A k = 0, ii) lim k A k x = 0 pour tout x, iii) ρ(a) < 1, iv) A < 1 pour au moins une norme induite.. 5. Une condition suffisante pour que la matrice I A soit inversible est que ρ(a) < 1. Dans ce cas (I A) 1 = k=0 Ak. 6. Pour toute matrice carrée A, et toute norme matricielle, induite ou non, on a Preuve 2.7 Démonstration. lim k + Ak 1/k = ρ(a). 1. Soit x un vecteur propre associé à une valeur propre λ de plus grand module, ρ(a). Alors, λxx T = Axx T et ρ(a) xx T = λxx T = Axx T A xx T. Comme x 0, xx T 0 et ρ(a) A. 2. Par hypothèse, A = XDX 1 ou encore D = X 1 AX, où D = diag(λ i ) est la matrice diagonale des valeurs propres. On sait que D = max λ i = ρ(a) (d après le résultat de l exemple 2.5). i X 1 AXx Par définition, D = max x 0. On introduit ν(z) = X 1 z. x On montre que ν est une norme (cf définition 2.1) : x 0 X 1 x 0 car X est inversible. De plus comme. est une norme X 1 x 0 ν(x) > 0. ν(αx) = X 1 αx = αx 1 x. Or comme. est une norme, αx 1 x = α X 1 x = α ν(x) ν(x + y) = X 1 (x + y) = X 1 x + X 1 y. Et X 1 x + X 1 y X 1 x + X 1 y, donc ν(x + y) ν(x) + ν(y). On en déduit, en posant y = Xx que X 1 Ay = ν(ay) et x = X 1 y = ν(y), donc ρ(a) = max x 0 X 1 AXx x = max y 0 ν(ay) ν(y). La norme ν dépend de A par l intermédiaire de X, la matrice des vecteurs propres de A.

7 7 Chapitre 2 : Normes de vecteurs et de matrices 3. Admis 4. i) ii) Etant donné x, l inégalité A k x A k x, montre que A k x 0 lorsque k, si A k 0. ii) iii) Si ρ(a) 1, il existe un vecteur x tel que x 0, Ax = λx, λ 1. Puisque A k x = λ k x, A k x = λ k x = λ k x x. Donc lim k A k x x 0, ce qui est incompatible avec ii), donc ρ(a) < 1. iii) iv). C est une conséquence du théorème de Householder-Ostrowski. iv) i) Il suffit d appliquer d appliquer A k A k (. étant une norme induite, c est une norme sous-multiplicative) puisque A < Si ρ(a) < 1 alors λ < 1 pour toute valeur propre λ de A. Donc 1 λ 0 : les valeurs propres de I A ne peuvent être nulles. I A est donc inversible. Considérons l identité : I A k+1 = (I A)(I + A + + A k ). Par multiplication par (I A) 1 à gauche, on obtient : (I A) 1 k A i = (I A) 1 A k+1. i=0 La propriété i) permet de conclure que (I A) 1 A k+1 0, c est à dire (I A) 1 k i=0 Ai 0 quand k. D autre part, si I A est singulière, au moins une des valeurs propres de A est égale à 1. Donc 1 ρ(a) A, ( pour toute norme matricielle.) 6. D après la proposition 2.9, ρ(a k ) = ρ(a) k A k, d où, pour tout k, ρ(a) A k 1/k. Soit ɛ > 0 et A(ɛ) = A ρ(a)+ɛ. Alors ρ(a(ɛ)) < 1, et donc lim k A(ɛ) k = 0 d après le 4.. Donc il existe N tel que k > N = A(ɛ) k < 1. Comme A(ɛ) k = A k /(ρ(a) + ɛ) k, on obtient A k (ρ(a) + ɛ) k pour k > N. On a ainsi en rassemblant les résultats, pour tout ɛ, il existe N tel que si k > N, on a ρ(a) A k 1/k ρ(a) + ɛ, ce qui implique le résultat.