Transformations orthogonales

Exercice 1. Changement de base unitaire

Soit E un ev hermitien et B, B 0 deux bases orthonormées de E. On note P la matrice de passage de B à
B 0 . Montrer que t P P = I. Que peut-on dire de det P ?
Exercice 2. Isométries affines
Soient E un espace euclidien et f : E → E une application non nécéssairement linéaire.
1) On suppose que f conserve le produit scalaire. Démontrer que f est linéaire.
2) On suppose que f conserve les distances, c’est à dire : ∀ x, y ∈ E, kf (x) − f (y)k = kx − yk. Démontrer
que f = f (0) + g, avec g ∈ O(E).
Exercice 3. Projection sur vect(u)
Soient E un espace euclidien et u un vecteur unitaire de matrice U dans une base orthonormée B.
1) Montrer que U t U est la matrice dans B de la projection orthogonale sur vect(u).
2) Trouver la matrice de la symétrie associée.
Exercice 4. x + λ(x | v)v
Soient E un espace euclidien, v ∈ E \ {0} et λ ∈ R. On pose pour x ∈ E :f (x) = x + λ(x | v)v.
Déterminer λ pour que f ∈ O(E). Reconnaître alors f .
Exercice 5. f normal, f 2 = − id
Soit E un ev euclidien et f ∈ L(E) tel que f ◦ f ∗ = f ∗ ◦ f et f 2 = − id. Montrer que f est orthogonal.
Exercice 6. Centrale MP 2003 !
a2 ab − c ac + b
On considère l’endomorphisme de R3 de matrice dans la base canonique : A = ab + c b2 bc − a
ac − b bc + a c2
avec a, b, c ∈ R. Déterminer a, b, c de sorte que f soit une isométrie, et la préciser.
Exercice 7. Composition de symétries
Soient E un espace euclidien et F, G deux sous-espaces de E tels que F ⊥ G. On note sF et sG les
symétries orthogonales de bases F et G. Montrer que sF ◦ sG = sG ◦ sF = s(F ⊕G)⊥ .
Exercice 8. Composition de symétries
Soient F, G deux sous-espaces d’un ev euclidien E tels que F ⊂ G. On note sF et sG les symétries
orthogonales de bases F et G. Montrer que sF ◦ sG = sG ◦ sF = sF ⊕G⊥ .
Exercice 9. Condition pour que deux réflexions commutent
Soient E un espace euclidien, H, K deux hyperplans de E et sH , sK les symétries associées. Démontrer
que sH et sK commutent si et seulement si H = K ou H ⊥ ⊂ K.
Exercice 10. Similitudes
Soient E un espace euclidien, f ∈ L(E) et λ > 0. On dit que f est une similitude de rapport λ si :
∀ x ∈ E, kf (x)k = λkxk.
1) Montrer que f est une similitude de rapport λ si et seulement si : ∀ x, y ∈ E, (f (x) | f (y)) = λ2 (x | y).
2) Caractériser les similtudes par leurs matrices dans une base orthonormée.
3) Montrer que f est une similitude si et seulement si f est non nulle et conserve l’orthogonalité, c’est à
dire : ∀ x, y ∈ E, x ⊥ y ⇒ f (x) ⊥ f (y).
Exercice 11. Similitudes
On définit l’application ϕ : A ∈ Mn (R) 7→ i,j a2i,j . Trouvez les matrices P ∈ GLn (R) telles que pour
P

tout A on ait ϕ(P −1 AP ) = ϕ(A).

Exercice 12. Sev stables
Soient E un espace euclidien, u ∈ O(E) et F un sev stable par u. Montrer que F ⊥ est aussi stable par u.

orthog.tex – vendredi 28 septembre 2018

Exercice 13. Projection sur le sous-espace invariant
Soient E un espace euclidien et u ∈ O(E). On note v = idE −u.
1) Montrer que Ker v = (Im v)⊥ . Pm−1
1
2) Soit p la projection orthogonale sur Ker v. Montrer que : ∀ x ∈ E, m k=0 uk (x) −→ p(x).
m→∞

Exercice 14. Endomorphismes orthogonaux diagonalisables

Quels sont-ils ?
Exercice 15. Valeurs propres d’une isométrie
Soient E un espace euclidien de dimension n et f ∈ O(E).
1) On suppose n impair et f ∈ O+ (E). Montrer que 1 est valeur propre de f (comparer det(f − id) et
det(f −1 − id)).
2) Que peut-on dire quand n est pair ?
3) Soit n quelconque, f ∈ O− (E). Montrer que −1 est valeur propre de f .
Exercice 16. Caractérisation des symétries orthogonales
Soit M ∈ O(n).
1) Montrer que M est la matrice d’une symétrie orthogonale si et seulement si M est symétrique.
2) Dans ce cas, déterminer la base et la direction de cette symétrie en fonction des matrices I + M et
I − M.
Exercice 17. f orthogonal antisymétrique
Soient E un espace euclidien et f ∈ O(E). Montrer que les énoncés suivants sont équivalents :

f ◦ f = − idE ⇔ ∀ x ∈ E, f (x) ⊥ x ⇔ ∀ x, y ∈ E, (f (x) | y) = −(x | f (y)).

Exercice 18. Centre de O(E)

Soient E un espace euclidien, f ∈ O(E) et s une réflexion par rapport à un hyperplan H. Soit u ∈ H ⊥ ,
u 6= 0.
1) Montrer que f ◦ s ◦ f −1 est aussi une symétrie et en donner la base.
2) En déduire que f et s commutent si et seulement si u est vecteur propre de f .
3) Quel est le centre de O(E) ?
Exercice 19. Nombre de réflexions nécéssaires pour engendrer une application donnée
Soient E un espace euclidien et f ∈ O(E). On note F = Ker(f − idE ) et p = codim(F ).
1) Montrer qu’on peut décomposer f en produit d’au plus p réflexions.
2) Inversement, si f est un produit de k réflexions, démontrer que p 6 k.
3) Application : trouver f ∈ O(E) qui se décompose en n réflexions et pas moins.
Exercice 20. Prolongement d’une transformation orthogonale
Soient E un espace euclidien.
1) Soit F un sev de E et f : F → E une application orthogonale. Démontrer qu’on peut prolonger f en
une application orthogonale de E dans E.
2) SoientPu1 , . . . , un , v1 , . . . , vn des vecteurs
P de E tels que : ∀ i, j, (ui | uj ) = (vi | vj ).
a) Si λi ui = 0, démontrer que λi vi = 0.
b) En déduire qu’il existe f ∈ O(E) telle que : ∀ i, f (ui ) = vi .
Exercice 21. Action de O(E) sur les sev
Soient F, G deux sev d’un ev euclidien E de mêmes dimensions.
1) Montrer qu’il existe u ∈ O(E) tel que u(F ) = G.
2) Montrer qu’il existe u ∈ O(E) tel que u(F ) = G et u(G) = F .
Exercice 22. Transformations orthogonales sur Mn (R)
Soit E = Mn (R) muni du produit scalaire : (A | B) = tr(tAB).
1) Vérifier que c’est un produit scalaire.
2) Soit P ∈ O(n). Montrer que les applications ϕP : A 7→ AP et ψP : A 7→ P −1 AP sont orthogonales.
3) Réciproquement, si ϕP ou ψP ∈ O(Mn (R)), est-ce que P ∈ O(n) ?

orthog.tex – page 2
Exercice 23. A = com(A)
Quelles sont les matrices A ∈ Mn (R) égales à leur comatrice ?
Exercice 24. AtA + A + tA = 0
1) Trouver les matrices A ∈ Mn (R) telles que : AtA + A + tA = 0.
2) Montrer que pour une telle matrice, | det A| 6 2n .
Exercice 25. Somme des coefficientsPd’une matrice orthogonale
Soit P ∈ O(n). démontrer que : | i,j Pij | 6 n. Quand a-t-on égalité ?
Exercice 26. Groupe engendré par les réflexions
Soit E un espace vectoriel hermitien et G le sous-groupe de U(E) engendré par les réflexions.
1) On suppose ici dim E > 2. Soient u, v ∈ E. Montrer qu’il existe une réflexion σ échangeant u et v si
et seulement si kuk = kvk et (u | v) ∈ R.
2) Montrer que G = {f ∈ U (E) tq det(f ) ∈ {−1, 1}}.
Exercice 27. Orthotrigonalisation
Montrer que tout endomorphisme d’un espace vectoriel hermitien est trigonalisable en base orthonormale.
Exercice 28. Réduction des endomorphismes orthogonaux et unitaires
1) Soit G un sous groupe compact de GLn (C). Si M ∈ G montrer que sp(M ) ⊂ U. En déduire que tout
élément de G est diagonalisable.
2) Soit M ∈ Un (C). Montrer que M est diagonalisable et qu’il existe une base orthonormée de Cn propre
pour M .
3) Soit M ∈ On (R). Montrer qu’il existe P ∈ On (R) telle que P −1 M P est diagonale par
 blocs : 
cos θi − sin θi
P −1 M P = diag(±1, . . . , ±1, R1 , . . . , Rk ) où Ri est une matrice de la forme : Ri = sin θi cos θi
.

Exercice 29. Groupes orthogonaux égaux

Soit E un R-ev de dimension finie et k k1 , k k2 deux normes euclidiennes telles que les groupes orthogonaux
associés sont égaux. Que peut-on dire de ces normes ?
Exercice 30. Densité, Ens Ulm MP∗ 2003
On (Q) est-il dense dans On (R) ?
Exercice 31. Famille obtusangle, X 2015
Soient v1 , . . . , vn+1 ∈ Rn tels que (vi | vj ) = −1 pour tous i, j distincts.
1) Trouver pour n = 2 un exemple d’uneP telle suite.
n+1 Pn+1
2) Soit pi = 1/(kvi k2 + 1). Montrer que i=1 pi = 1 et i=1 pi vi = 0.
3) Montrer que toute sous-famille stricte de (v1 , . . . , vn+1 ) est libre.
4) Soient w1 , . . . , wn+1 ∈ Rn telle que (wi | wj ) = −1 pour tous i, j distincts et kwi k = kvi k pour tout i.
Montrer qu’il existe f ∈ O(Rn ) telle que f (vi ) = wi pour tout i.
Exercice 32. X 2014
1) Soient u, v ∈ On (R) tels que u + v = 2 id. Montrer que u = v = id.
2) Que dire de u, v ∈ On (R) et m ∈ L(Rn ) tels que umu−1 + vmv −1 = 2m ?
Exercice 33. Mines 2016
Soit M ∈ M3 (R) telle que M est inversible et tM + M 2 = 0. Montrer que M est la matrice d’une
application conservant le produit scalaire et déterminer celle-ci.
Exercice 34. ENS 2017
Quels sont les morphismes continus de (R, +) dans (SO(n), ×) ? Indication : commencer par les mor-
phismes de classe C 1 .

orthog.tex – page 3
 solutions

Exercice 4.
λ = 0, f = idE et λ = − 2 2 , f = la symétrie par rapport à vect(v).
kvk
Exercice 5.
h = f ◦ f ∗ : h2 = id et h > 0 ⇒ h = id.
Exercice 6.
t
AA = I ⇔ a2 + b2 + c2 = 1. Dans
! ce cas det(A) = tr(A) = 1 donc f est un quart de tour. L’axe du
a
quart de tour est engendré par b .
c

Exercice 11.
ϕ(A) = tr(A tA) donc pour toute matrice P telle que P tP soit scalaire (non nulle) on a ϕ(P −1 AP ) = ϕ(A).
Ces matrices sont les matrices de la forme P = λM avec M orthogonale (matrices de similitude).
Réciproquement, soit P telle que ϕ(P −1 AP ) = ϕ(A) et Q = P tP .
On a par polarisation : ∀ A, B, tr(AQ tB tQ−1 ) = tr(A tB)
donc pour B = QC : ∀ A, C, tr(AQt C) = tr(At CQ)
ce qui implique : ∀ C, Qt C = t CQ et donc que Q est scalaire.
Exercice 21.
2) On raisonne par récurrence sur d = dim(F ) = dim(G). Pour d = 0 il n’y a rien à prouver.
Pour d > 1 on considère a ∈ F et b ∈ G unitaires tels que (a | b) soit maximal. Soient F1 l’orthogonal
de a dans F et G1 l’orthogonal de b dans G (sev de dimensions égales à d − 1). Le choix de a, b fait que
F1 est orthogonal à b et G1 est orthogonal à a, donc F1 et G1 sont tous deux inclus dans l’orthogonal
de vect(a, b). On peut trouver un endomorphisme de cet orthogonal qui échange F1 et G1 , que l’on
complète par la symétrie orthogonale dans vect(a, b) qui échange a et b.
Exercice 22.
3) oui pour ϕP .
Pour ψP : ∀ A, B, tr(tAB) = tr(t P tAt (P −1 )P −1 BP ) = tr(P t P tAt (P −1 )P −1 B).
Donc P t P tAt (P −1 )P −1 = A, donc P t P est scalaire, donc P est une matrice de similitude.
Exercice 23.
A = 0 ou A ∈ O+ (n).
Exercice 24.
1) A = P − I, P ∈ O(n).
2) Hadamard.
Exercice 26.
2) Tout f ∈ G vérifie det(f ) ∈ {−1, 1}.
Réciproquement, soit f ∈ U(E) tq det(f ) ∈ {−1, 1} et F = Ker(f − id). On montre que f est
composée de réflexions par récurrence sur p = codim(F ).
p = 0 ⇒ f = id. p = 1 ⇒ f est une réflexion car F est un hyperplan et F ⊥ est stable par f .
0, . . . , p − 1 ⇒ p : soit (e1 , . . . , en ) une BON de E telle que (ep+1 , . . . , en ) est une BON de F et e1
est vecteur propre de f . Soit e01 = f (e1 ) = λe1 , et σ, σ 0 deux réflexions telles que σ(e1 ) = e2 et
σ 0 (e2 ) = e01 . Alors g = σ ◦ σ 0 ◦ f ∈ U (E), det(g) = det(f ) ∈ {−1, 1} et codim(Ker(g − id)) < p donc g
est composée de réflexions et f aussi.

orthog.tex – page 4
Exercice 30.
Oui. Pour n = 1 il y a égalité. Pour n = 2 cela résulte de la densité de U ∩ Q[i] dans U (démonstration
ci-dessous). Pour n quelconque, il suffit de voir qu’une réflexion quelconque est limite de réflexions à
coefficients rationnels (approcher un vecteur non nul normal à l’hyperplan de réflexion par une suite de
vecteurs rationnels).
(p2 − 1) + 2ip
Densité de U ∩ Q[i] dans U : pour p ∈ N∗ on considère zp = . On a zp ∈ U ∩ Q[i] et
p2 + 1
zp −→ 1. Si z ∈ U alors d(z, U ∩ Q[i]) 6 d(z, {zpk , k ∈ Z}) 6 12 |1 − zp |.
p→∞

Exercice 31. √
1) Un vecteur de norme 2 et ses images par les rotations d’angles ± 2π 3 .
2) La famille (v1 , . . . , vn+1 ) est liée : soit α1 v1 + . . . + αn+1 vn+1 = 0 avec α1 , . . . , αn+1 non tous nuls.
On a, en notant α = α1 + . . . + αn+1 :

n+1
X   X αj
0= αi vi  vj = αj kvj k2 − αi = αj (kvj k2 + 1) − α = − α.

i=1 i6=j
pj

d’où αj = pj α. α est non nul sinon tous les αj le seraient, donc pj = αj /α, ce qui donne les relations
demandées.
3) D’après la question précédente, toute liste de coefficients αi telle que α1 v1 + . . . + αn+1 vn+1 = 0 est
proportionnelle à (p1 , . . . , pn+1 ). Comme aucun pi n’est nul, il n’existe pas de relation de dépendance
dans une sous-famille stricte.
4) Comme (v1 , . . . , vn ) est une base de Rn , il existePune unique application
Plinéaire f vérifiant f (vi ) = wi
n n
pour i = 1, . . . , n. On alors f (vn+1 ) = f (− i=1 pi vi /pn+1 ) = − i=1 pi wi /pn+1 = wn+1 . Par
ailleurs, la relation (f (x) | f (y)) = (x | y) est vraie pour tous x, y ∈ {v1 , . . . , vn } donc par bilinéarité,
elle est vraie pour tous x, y ∈ Rn . Ainsi f ∈ O(Rn ).
Exercice 32.
1) Avec l’inégalité de Cauchy-Schwarz, on a (u(x) | x) 6 kxk2 et (v(x) | x) 6 kxk2 . Comme u + v = 2 id,
(u(x) | x) + (v(x) | x) = 2kxk2 donc on est dans le cas d’égalité, d’où x, u(x), v(x) sont colinéaires de
même sens et ont même norme, donc sont égaux.
2) Matriciellement, U M U −1 + V M V −1 = 2M . En munissant Mn (R) du produit scalaire usuel défini
par (A | B) = tr(t AB), les applications A 7→ U AU −1 et A 7→ V BV −1 sont orthogonales donc, en
reprenant les calculs précédents, il vient U M U −1 = V M V −1 M = M , soit : m commute avec u et v.
Exercice 33.
t
M = −M 2 donc M 4 = (tM )2 = t(M 2 ) = −M et M 3 = −I3 puisque M est inversible. Il vient alors
t
M M = I3 , soit M ∈ O3 (R) et det(M )3 = det(−I3 ) = −1 donc det(M ) = −1.
Ainsi M est une matrice de réflexion
! ou une matrice d’anti-rotation et est ortho-semblable à une matrice
cos θ − sin θ 0
de la forme N = sin θ cos θ 0 . La relation tM = −M 2 donne 3θ ≡ π (mod 2π), donc M est de la
0 −1
  0
Rπ/3 0 t
forme P 0 −1
P avec P ∈ O3 (R) ou M = −I3 et la réciproque est immédiate.

Exercice 34.
On connaît tous les morphismes continus à valeurs dans GLn (R) : t 7→ exp(tA) avec A ∈ Mn (R). Ceux
à valeurs dans SO(n) correspondent au cas : A antisymétrique.

orthog.tex – page 5