【正确答案】 B

【答案解析】解一 由题设有Aα=λα，且A^T=A，令B=(P^-1AP)^T，则
B=(P^-1AP)^T=P^TA^T(P^-1)^T=P^TA(P^T)^-1， A=(P^T)^-1BP^T，
故Aα=(P^T)^-1BP^Tα，即(P^T)^-1B(P^Tα)=λα．两边左乘P^T，得到B(P^Tα)=λP^Tα．
又P^Tα≠0．事实上，如P^Tα=0，则由P为可逆矩阵知，P^T也为可逆矩阵，于是有(P^T)^-1P^Tα=(P^T)^-10=0，即α=0．这与α≠0矛盾，故P^Tα为矩阵B=(P^-1AP)^T的属于特征值λ的特征向量．仅(B)入选．
解二 用定义(P^-1AP)^TX=λX判别．当X=P^Tα时，计算(P^-1AP)^T(P^Tα)时看其是否为P^-1Tα的λ倍．事实上，有
(P^-1AP)^T(P^Tα)=P^TA ^T(P^-1)^T(P^Tα)=P^TA(P^T)^-1P^Tα=P^T(Aα)=λP^Tα．
又P^TT≠0．因而P^TT是(P^TAP)^-1的属于特征值λ的特征向量．
解三 为检验选项中4个向量哪个是特征向量，只需检验哪个向量是齐次方程组[(P^-1AP)^T－λE]X=0的非零解向量．事实上，令X=P^TT，有
[(P^-1AP)^T－λE](P^Tα)=[P^TA(P^T)^-1P^Tα－λP^Tα]=P^TAα－λP^Tα=λP^Tα－λP^Tα=0．
易验证(A)、(C)、(D)中向量均不满足上述方程．又P^Tα≠0．仅(B)入选．