【正确答案】由题设,先求矩阵A的特征值,设E为三阶单位矩阵,
则由

可得λ
1=6,λ
2=6,λ
3=-2,欲使A相似于对角阵Λ,应使λ
1=λ
2=6对应两个线性无关的特征向量,因此A-6E的秩为1,于是

,可得出a=0,从而

,下面求特征向量.
当λ
1=λ
2=6时,由(A-6E)x=0可得出两个线性无关的特征向量为
ξ
1=(0,0,1)
T,ξ
2=(1,2,0)
T.
当λ
3=-2时,由(A+2E)x=0可得ξ
3=(1,-2,0)
T,
于是

,且P
-1存在,并有P
-1AP=Λ,
其中
