第六大题  设 $A$ 为 $n$ 阶复方阵, 证明: $A$ 不可对角化当且仅当存在一元多项式 $f(x)$, 使得 $f(A)$ 非零, $I_n+f(A)$ 可逆, 并且 $(I_n+f(A))^{-1}$ 与 $I_n-f(A)$ 相似.

证明  先证必要性. 考虑 $A$ 的 Jordan-Chevalley 分解 $A=B+C$, 其中 $B$ 为可对角化矩阵, $C$ 为幂零矩阵, $BC=CB$, 且 $B,C$ 均可表示为 $A$ 的多项式. 由假设 $A$ 不可对角化, 故 $C\neq 0$. 设 $C=f(A)$, 其中 $f(x)\in\mathbb{C}[x]$, 则由 $C$ 幂零可知 $I_n\pm f(A)=I_n\pm C$ 的特征值都为 1, 故为可逆阵. 要证 $(I_n+C)^{-1}$ 与 $I_n-C$ 相似, 只要等价地证明 $I_n+C$ 与 $(I_n-C)^{-1}$ 相似即可.

我们采用“三段论法”来证明上述结论. 设 $P$ 为非异阵, 使得 $$P^{-1}CP=J=\mathrm{diag}\{J_{r_1}(0),J_{r_2}(0),\cdots,J_{r_k}(0)\}$$ 为 $C$ 的 Jordan 标准型. 对任一 Jordan 块 $J_{r_i}(0)$, 我们有 $$(I_{r_i}-J_{r_i}(0))^{-1}=I_{r_i}+J_{r_i}(0)+\cdots+J_{r_i}(0)^{r_i-1}=\begin{pmatrix} 1 & 1 & \cdots & 1 \\ & 1 & \cdots & 1 \\ & & \ddots & \vdots \\ & & & 1 \\ \end{pmatrix}.$$ 上述矩阵的特征值全为 1, 经过简单的计算可知, 特征值 1 的几何重数为 1, 因此上述矩阵的 Jordan 标准型为 $J_{r_i}(1)=I_{r_i}+J_{r_i}(0)$. 于是存在非异阵 $Q_i$, 使得 $(I_{r_i}-J_{r_i}(0))^{-1}=Q_i^{-1}(I_{r_i}+J_{r_i}(0))Q_i$. 令 $Q=\mathrm{diag}\{Q_1,Q_2,\cdots,Q_k\}$, 则 $Q$ 为非异阵且 $(I_n+J)^{-1}=Q^{-1}(I_n+J)Q$. 最后, 我们有 $I_n+C=P(I_n+J)P^{-1}=PQ(I_n-J)^{-1}Q^{-1}P^{-1}=PQP^{-1}(I_n-C)^{-1}PQ^{-1}P^{-1}$, 即 $I_n+C$ 与 $(I_n-C)^{-1}$ 相似.

用反证法证明充分性. 设 $A$ 可对角化, 则 $C:=f(A)$ 也可对角化. 由于题目的条件和结论在相似关系下不改变, 故不妨设 $C=\mathrm{diag}\{\lambda_1,\lambda_2,\cdots,\lambda_n\}$ 为对角阵, 由 $I_n+C$ 非异可知 $\lambda_i\neq -1\,(1\leq i\leq n)$. 注意到 $$(I_n+C)^{-1}=\mathrm{diag}\{\frac{1}{1+\lambda_1},\frac{1}{1+\lambda_2},\cdots,\frac{1}{1+\lambda_n}\},\\ I_n-C=\mathrm{diag}\{1-\lambda_1,1-\lambda_2,\cdots,1-\lambda_n\},$$ 由于上述两个矩阵相似, 故存在 $\{1,2,\cdots,n\}$ 的一个置换 $\sigma$, 使得 $$(1+\lambda_i)(1-\lambda_{\sigma(i)})=1,\quad 1\leq i\leq n,$$ 化简后可得 $$(1)\quad\lambda_i-\lambda_{\sigma(i)}-\lambda_i\lambda_{\sigma(i)}=0, \quad 1\leq i\leq n.$$ 特别地, 由 (1) 式可知 $\lambda_i$ 与 $\lambda_{\sigma(i)}$ 或同时为零, 或同时非零. 由于 $C$ 非零, 故不妨设 $\lambda_1\neq 0$. 由群论中的 Lagrange 定理可知, 存在最小的正整数 $k$, 使得 $\sigma^k(1)=1$. 由 (1) 式可知 $k\geq 2$, 并有如下的等式: $$\frac{1}{\lambda_{\sigma(1)}}-\frac{1}{\lambda_1}=1,\,\,\frac{1}{\lambda_{\sigma^2(1)}}-\frac{1}{\lambda_{\sigma(1)}}=1,\,\,\cdots,\,\,\frac{1}{\lambda_{\sigma^k(1)}}-\frac{1}{\lambda_{\sigma^{k-1}(1)}}=1.$$ 上述 $k$ 个等式相加可得 $0=k$, 矛盾!  $\Box$