【答案解析】由AB=0,知λ=0是矩阵A的特征值且矩阵B的列向量(1,0,1)
T是矩阵A属于特征值λ=0的特征向量,故有

得特征值:λ
1=6,λ
2=0,λ
3=-6.
当λ
1=6时,由(A-6E)x=0得特征向量α
1=(1,2-1)
T;
当λ
2=0时,由已知,有特征向量α
2=(1,0,1)
T;
当λ
3=-6时,由(A+6E)x=0得特征向量α
3=(-1,1,1)
T.
由于A的特征值均为单根,其对应的特征向量天然正交,因此只需把α
1,α
2,α
3单位化,得

则正交矩阵

令x=Py,
