【正确答案】(1)因为A~B,所以tr(A)=tr(B),即2+a+0=1+(一1)+2,于是a=0.
(2)由|λE—A|=

=(λ+1)(λ-1)(λ一2)=0得A,B的特征值为λ
1=一1,λ
2=1,λ
3=2.
当λ=一1时,由(一E—A)X=0即(E+A)X=0得ξ
1=(0,一1,1)
T;
当λ=1时,由(E—A)X=0得ξ
2=(0,1,1)
T;
当λ=2时,由(2E—A)X=0得ξ
3=(1,0,0)
T,取P
1=

则
P
1-1AP
1=

当λ=一1时,由(一E-B)X=0即(E+B)X=0得η
1=(0,1,2)
T;
当λ=1时,由(E—B)X=0得η
2=(1,0,0)
T;
当λ=2时,由(2E—B)X=0得η
3=(0,0,1)
T,取P
2=

,则
P
2-1BP
2=

由P
1-1AP
1=P
2-1BP
2得(P
1P
2-1)
-1A(P
1P
2-1)=B,
取P=P
1P
2-1=
