Chapitre 26 Groupe orthogonal Dans tout ce chapitre, on fixe un espace vectoriel euclidien de dimension n = 2 ou n = 3. On notera ( ) le produit scalaire et la norme euclidienne associée. 1 Endomorphismes orthogonaux, matrices orthogonales 1.1 Endomorphismes orthogonaux Définition 1.1 (Endomorphisme orthogonal) Un endomorphisme orthogonal de E est un endomorphisme f de E qui conserve le produit scalaire, i.e. Proposition 1.2 (Conservation de la norme) x,y E, (f(x) f(y)) = (x y). 1. Un endomorphisme f de E est un endomorphisme orthogonal si et seulement si f conserve la norme, i.e. si et seulement si x E, f(x) = x. 2. Un endomorphisme orthogonal est un automorphisme. Proposition 1.3 (Image d une base orthonormale par un automorphisme orthogonal) Soit f L(E). Alors sont équivalents : 1. f est un automorphisme orthogonal. 2. L image par f d une base orthonormale de E est une base orthonormale de E. 3. L image par f de toute base orthonormale de E est une base orthonormale de E. Définition 1.4 (Groupe orthogonal) Proposition 1.5 Le groupe orthogonal de E, noté O(E), est l ensemble des automorphismes orthogonaux de E. L ensemble O(E) est un sous-groupe de (GL(E), ). Proposition 1.6 (CNS pour qu une symétrie soit un automorphisme orthogonal) Une symétrie de E est un automorphisme orthogonal si et seulement si c est une symétrie orthogonale. 193
G y z x F 0 s(x) z y 1.2 Matrices orthogonales Définition 1.7 (Matrice orthogonale, O(n)) Une matrice M M n (R) est orthogonale si t MM = M t M = I n. On note O(n) M n (R) l ensemble des matrices carrées d ordre n. Proposition 1.8 Soit M M n (R). Alors M O(n) t M O(n) t MM = I n M t M = I n M GL n (R) et M 1 = t M. Proposition 1.9 (Déterminant d une matrice orthogonale) Une matrice orthogonale a pour déterminant ±1. Proposition 1.10 (Colonnes (lignes) d une matrice orthogonale) Soit M M n (R). Alors M est une matrice orthogonale si et seulement si les vecteurs colonnes (resp. vecteurs lignes) de M forment une base orthonormale de R n pour le produit scalaire usuel. Proposition 1.11 (Matrice de passage entre deux bases orthonormales) Soient B une base orthonormale de E et B une base de E. Alors la base B est orthonormale si et seulement si la matrice de passage de B à B est une matrice orthogonale. Définition 1.12 (Groupe orthogonal d ordre n) 1. Le groupe orthogonal d ordre n noté O(n) est l ensemble des matrices orthogonales d ordre n. 2. Le groupe spécial orthogonal d ordre n noté SO(n) est le sous-ensemble de O(n) des matrices de déterminant 1. Proposition 1.13 1. L ensemble O(n) est un sous-groupe de (GL n (R),.). 2. L ensemble SO(n) est un sous-groupe de O(n). 194
1.3 Matrice d un automorphisme orthogonal Proposition 1.14 (Matrice d un automorphisme orthogonal) Soit f L(E). Alors sont équivalents 1. f est un automorphisme orthogonal. 2. La matrice de f dans une base orthonormale est orthogonale. 3. La matrice de f dans toute base orthonormale est orthogonale. Corollaire 1.15 (Déterminant d un automorphisme orthogonal) Le déterminant d un automorphisme orthogonal vaut ±1. Proposition 1.16 (Matrice d une symétrie orthogonale) Soit f L(E) et M sa matrice dans une base orthonormale. Alors f est une symétrie orthogonale si et seulement si M 2 = I n et M est symétrique, ou encore si et seulement si M O(n) et t M = M. Définition 1.17 (Groupe spécial orthogonal) Le groupe spécial orthogonal de E noté SO(E) est le sous-ensemble de O(E) des automorphismes orthogonaux de déterminant 1. Les éléments de SO(E) sont les automorphismes orthogonaux directs ou encore les rotations. Les autres sont les automorphismes orthogonaux indirects. Proposition 1.18 Un automorphisme orthogonal est direct (resp. indirect) si et seulement si sa matrice dans une base orthonormale est une matrice orthogonale directe (resp. indirecte). Proposition 1.19 L ensemble SO(E) est un sous-groupe de O(E). 2 Propositions utiles pour la suite Proposition 2.1 Soit f O(E) et F un sous-espace vectoriel de E tel que f(f) F. Alors f(f) = F et f(f ) = F. Proposition 2.2 (Orthogonal du sous-espace vectoriel des vecteurs invariants) Soient f O(E) et F = Ker(f id E ) le sous-espace vectoriel de E des vecteurs invariants par f. Alors Proposition 2.3 (CNS pour être une réflexion) f(f) = F et f(f ) = F. Un automorphisme orthogonal est une réflexion si et seulement si le sous-espace vectoriel de ses vecteurs invariants est un hyperplan de E. Proposition 2.4 (Hyperplan médiateur) Soient a et b deux vecteurs distincts de E de même norme. Alors 195
1. L ensemble des vecteurs équidistants de a et b est l hyperplan ( vect(b a) ) de E. C est l hyperplan médiateur de a et b. 2. Il existe une unique réflexion de E qui échange a et b. C est la réflexion par rapport à l hyperplan médiateur de a et b. a a b H b H a a b b Définition 2.5 (Orientation d un espace vectoriel euclidien) Orienter un espace vectoriel euclidien, c est choisir une base B de cet espace et décréter qu elle est directe. Si B est une autre base, alors si dét (P BB ) > 0, la base B est directe, indirecte sinon. Proposition 2.6 La matrice de passage entre deux base orthonormales directes (resp. deux bases orthonormales indirectes) est une matrice orthogonale directe, et la matrice de passge entre une base orthonormale directe et une base orthonormale indirecte est une matrice orthogonale indirecte. 3 Automorphismes orthogonaux du plan euclidien Dans ce, E est le plan euclidien orienté. 3.1 Rotations du plan euclidien Théorème 3.1 (Description de 0(2)) Les éléments de SO(2) sont les matrices R(θ) et les matrices de O(2) \ SO(2) les matrices S(θ), θ R, où ( cos(θ) sin(θ) R θ = sin(θ) cos(θ) ), S θ = ( ) cos(θ) sin(θ). sin(θ) cos(θ) Corollaire 3.2 (Description de SO(2)) Le groupe SO(2) est commutatif. De plus, on a pour tous θ,θ [0,2π[, R θ R θ = R θ R θ = R θ+θ. 196
Corollaire 3.3 L application est un morphisme surjectif de groupes. (R,+) (SO(2),. ) θ R(θ) Théorème 3.4 (Matrice d une rotation plane) Soit f SO(E). Alors il existe un unique θ [0,2π[ tel que la matrice de f dans toute base orthonormale directe soit R θ. Définition 3.5 (Mesure d un angle) Une mesure de l angle d une rotation est un réel θ telle que la matrice de la rotation dans une base orhonormale directe soit R θ. Proposition 3.6 (Détermination d une mesure de l angle) Soient a un vecteur unitaire de E et u la rotation d angle de mesure θ R. Alors cos(θ) = (a u(a)), sin(θ) = [a,u(a)] = Dét(a,u(a)). 3.2 Réflexions du plan euclidien Proposition 3.7 Proposition 3.8 On a pour tous α,β,θ R S 2 α = I 2, S α S β = R α β, S α R θ = S α θ, R θ S α = S α+θ. Les automorphismes orthogonaux indirect du plan sont les réflexions du plan. Plus précisément, la matrice S θ (θ R) est la matrice dans une base orthonormale de la reflexion par rapport à la droite d équation { y = tan ( θ 2) x si θ π mod 2π, x = 0 sinon. Proposition 3.9 (Décomposition en produit de réflexions) Tout automorphisme orthogonal de E est la composée d au plus deux réflexions. 4 Automorphisme orthogonaux de l espace euclidien Dans ce, E est l espace euclidien orienté. 4.1 Étude suivant la dimension du sous-espace vectoriel des vecteurs invariants Dans ce paragraphe, on fixe f O(E) un automorphisme orthogonal différent de l identité. On note F = Ker(f id E ) le sous-espace vectoriel de E des vecteurs invariants par f. Comme f id E, on a F E et donc dim(f) = 2 ou dim(f) = 1 ou dim(f) = 0. 197
Proposition 4.1 (Cas dim(f) = 2) Si dim(f) = 2, alors f est la réflexion par rapport à F. Proposition 4.2 (Cas dim(f) = 1) Si dim(f) = 1, alors f est une rotation de E. Proposition 4.3 (Cas dim(f) = 0) Si dim(f) = 0, alors f est un automorphisme orthogonal indirect. 4.2 Description des rotations de l espace Dans ce paragraphe, on fixe une rotation f de E différente de l identité. On note = Ker(f id E ). D après le paragraphe 4.1, on a dim( ) = 1. Proposition 4.4 (Orientation d un plan dans l espace) Soit u un vecteur non nul de E et P = u. Il existe une unique orientation de P telle que pour toute base directe (e 1,e 2 ) de P, la base (e 1,e 2,u) de E soit directe. Le plan P est alors orienté par la normale u. Définition 4.5 (Axe de la rotation) La droite s appelle l axe de la rotation f, et le plan le plan de la rotation f. Proposition 4.6 On a f( ) =. Proposition 4.7 La restriction de f à est une rotation du plan euclidien. Théorème 4.8 (Matrice d une rotation de l espace) Soit u un vecteur unitaire, et orienté par u. Il existe un unique θ [0,2π[ tel que, pour toute base orthonormale directe (e 1,e 2 ) de, la matrice de f dans la base orthonormale directe (u,e 1,e 2 ) de E soit 1 0 0 0 cos(θ) sin(θ). 0 sin(θ) cos(θ) La rotation f est alors la rotation d axe dirigé par u, d angle de mesure θ, ou encore rotation autour de u, d angle de mesure θ. 198
P u r(x) θ x Corollaire 4.9 (Décomposition en produit de réflexions) Une rotation est la composée de deux réflexions. P 1 P2 x r(x) s 1 (x) Proposition 4.10 (Image d un vecteur par une rotation) Soit r la rotation autour d un vecteur unitaire u, de mesure d angle θ. Alors, si x est un vecteur orthogonal à l axe de r, on a r(x) = cos(θ)x + sin(θ)u x. Si de plus x est unitaire, alors Définition 4.11 (Retournement) (x r(x)) = cos(θ), [u,x,r(x)] = sin(θ). Un retournement de l espace est une symétrie orthogonale par rapport à une droite. Proposition 4.12 Les retournements sont les rotations dont une mesure d angle est π. 199
4.3 Automorphismes orthogonaux indirects de l espace Proposition 4.13 Soit f la rotation d axe dirigé par u 0, de mesure d angle θ R. 1. Soit s la réflexion par rapport à. Alors f s = s f. 2. On a f = r s = s r, où s est la réflexion par rapport à, et r la rotation d axe dirigé par u et de mesure d angle θ + π. Théorème 4.14 Soit g un automorphisme orthogonal indirect de l espace qui n est pas une réflexion. Alors il existe une rotation r (différente de l identité) d axe telle que si s est la réflexion par rapport à, on ait Méthode. g = r s = s r. On veut étudier l endomorphisme f de R 3 (ou de l espace euclidien) canoniquement (ou non!) associé à A M n (R) (enfin, on a affaires à une base orthonormale directe). 1. On vérifie que A O(E). 2. Si A est symétrique, f est une symétrie orthogonale. On résout le système AX = X, qui nous donne le plan de la réflexion. 3. On calcul le déterminant de A, pour savoir à l avance si f est une rotation ou non. 4. 1. Si dét(a) = 1, on résout le système AX = X, qui donne l axe de la rotation. On oriente cet axe par un vecteur u, et on considère un vecteur non nul x orthogonal à u. On calcule cos(θ) par la formule ( ) x cos(θ) = r(x) x, x et le signe de sin(θ) est le signe de [u,x,r(x)]. 2. Si dét(a) = 1 et A n est pas symétrique, on considère B = A et g = f, qui est la rotation d axe disons dirigé par u de mesure d angle θ. Alors g est la composée (commutative) de la rotation autour de u de mesure d angle θ + π et de la réflexion par rapport à. 200