【正确答案】令f(x)=x⁵－4x³+1，则B=f(A)=A⁵－4A³+E．因A的特征值为λ₁=1，λ₂=2，λ₃=－2，故B=f(A)的三个特征值分别为μ₁=f(λ₁)=f(1)=－2，μ₂=f(λ₂)=f(2)=1，μ₃=f(λ₃)=f(－2)=1．由Aα₁=λ₁α₁=α₁，得到
A⁵α₁=A⁴Aα₁=A⁴α₁=…=Aα₁=α₁，
A³α₁=A²Aα₁=A²α₁=AAα₁=Aα₁=α₁，
故 Bα₁=(A⁵－4A³+E)α₁=A⁵α₁－4A³α₁+α₁=α₁－4α₁+α₁=－2α₁，
即B的属于特征值μ₁=f(λ₁)=f(1)=－2的一个特征向量为α₁(与A的属于特征值λ₁=1的特征向量α₁相同)，所以B的属于特征值μ₁=一2的全部特征向量为k₁α₁，其中k₁是不等于0的任意常数．
一般地，矩阵A的属于特征值λ_i的特征向量与矩阵B=f(A)的属于特征值f(λ_i)的特征向量相同，故为了求B的特征向量，只需求出A的特征向量．
设A的属于λ₂的特征向量为α₂=[x₁，x₂，x₃]^T，则因λ₁≠λ₂，故α₂与α₁正交，则有

由

【正确答案】解一 令则P^-1BP=diag(一2，1，1)．于是

解二 将α₂，α₃正交化，得到

再将α₁，β₂，β₃单位化，得到

令Q=[η₁，η₂，η₃]，则Q为正交矩阵，其正交变换X=QY可将Q实对称矩阵B对角化，即
Q^-1BQ=Q^TBQ=A=diag(一2，1，1)，
亦即