设 $A,B$ 是 $n$ 阶实对称矩阵. 试证: $\tr((AB)^2)\leq \tr(A^2B^2)$. 又问: 等号何时成立?    

证明:  由  $$\bex  \sum_i \sez{\sum_j a_{ij}b_{ji}}=\sum_j\sez{\sum_i b_{ji}a_{ij}}  \eex$$  知  $$\bee\label{130912:1}  \tr(AB)=\tr(BA).  \eee$$  对 $A,B\in M_n(\bbR)$, 定义  $$\bex  \sef{A,B}=\tr(A^tB),  \eex$$  则易知 $\sef{\cdot,\cdot}$ 是 $M_n(\bbR)$ 上的内积 (正定对称双线性函数, 而使得 $M_n(\bbR)$ 成为 Euclidean 空间), 其满足 Cauchy 不等式:  $$\bex  \sef{A,B}\leq \sqrt{\sef{A,A}}\cdot \sqrt{\sef{B,B}}.  \eex$$  于是  $$\beex  \bea  \tr((AB)^2)  &=\tr((BA)^tAB)\\  &=\sef{BA,AB}\\  &\leq \sqrt{\sef{BA,BA}}\cdot \sqrt{\sef{AB,AB}}\\  &=\sqrt{\tr((BA)^tBA)}\cdot \sqrt{\tr((AB)^tAB)}\\  &=\sqrt{\tr(ABBA)}\cdot \sqrt{\tr(BAAB)}\\  &=\sqrt{\tr(A^2B^2)}\cdot\sqrt{\tr(A^2B^2)}\quad\sex{\mbox{由 }\eqref{130912:1}}\\  &=\tr(A^2B^2),  \eea  \eeex$$  且等号成立当且仅当  $$\bex  \exists\ \lambda,\mu\mbox{ 不全为零 },\st \lambda BA+\mu AB=0.  \eex$$