【正确答案】(1)因为A～B，所以tr(A)=tr(B)，即2+a+0=1+(-1)+2，于是a=0．
(2)由｜λE-A｜==(λ+1)(λ-1)(λ-2)=0得A，B的特征值为λ₁=-1，λ₂=1，λ₃=2．
当λ=-1时，由(-E-A)X=0即(E+A)X=0得ξ₁=(0，-1，1)^T；
当λ=1时，由(E-A)X=0得ξ₂=(0，1，1)^T；
当λ=2时，由(2E-A)X=0得ξ₃=(1，0，0)^T，取P₁=，则
P₁^-1AP₁=
当λ=-1时，由(-E-B)X=0即(E+B)X=0得η₁=(0，1，2)^T；
当λ=1时，由(E-B)X=0得η₂=(1，0，0)^T；
当λ=2时，由(2E-B)X=0得η₃=(0，0，1)^T，取P₃=，则
P₂^-1BP₂=
由P₁^-1AP₁=P₂^-1BP₂得(P₁P₂^-1)^-1A(P₁P₂^-1)=B，
取P=P₁P₂^-1=