A nilpotente réelle commutant avec A^t

Publié le 17/04/17

(exercice issu de l’oral Mines-Ponts Psi 2010, Ensam Psi 2013, etc.)
Déterminer {A\in{\mathcal M}_n(\mathbb{R})} nilpotente et telle que {A^{\top}A=A\,A^{\top}}.
La matrice {B=A^{\top}A} est symétrique réelle donc diagonalisable.

Elle est aussi nilpotente car {A^n=0\Rightarrow B^n=(A^{\top}A)^n={(A^n)}^{\top}A^n=0}.

La seule possibilité est donc {B=0}.

Mais : {\forall X\in\mathbb{R}^n,\;\left\|{AX}\right\|^2={{(AX)}}^{\top}{AX}={X}^{\top}BX=0} donc {AX=0}.

Conclusion : la seule matrice solution du problème est {A=0}.