单选题设A是n阶对称矩阵，B是n阶反对称矩阵，则下列不能用正交变换化为对角矩阵的是
(A) AB-BA． (B) A^T(B+B^T)A．
(C) BAB． (D) ABA．

【正确答案】 D

【答案解析】[解析] 对称矩阵可用正交矩阵相似对角化．
(AB-BA)^T=(AB)^T-(BA)^T=B^TA^T-A^TB^T=-BA+AB，
[A^T(B+B^T)A]^T=A^T(B+B^T)^T(A^T)^T=A^T(B+B^T)A，
(BAB)^T=B^TA^TB^T=(-B)A(-B)=BAB，
由于AB-BA，A^T(B+B^T)A，BAB均为对称矩阵．故(D)不正确，应选(D)．
其实 (ABA)^T=-ABA是反对称矩阵．