【正确答案】由｜λE－B｜=0，得λ₁=－1，λ₂=1，λ₃=2，因为A～B，所以A的特征值为λ₁=－1，λ₂=1，λ₃=2．
由tr(A)=λ₁+λ₂+λ₃，得a=1，再由｜A｜=b=λ₁λ₂λ₃=－2，得b=－2，
即A=
由(－E－A)X=0，得ξ₁=(1，1，0)^T；
由(E－A)X=0，得ξ₂=(－2，1，1)^T；
由(2E－A)X=0，得ξ₃=(－2，1，0)^T，
令P₁=，则P₁^－1AP₁=
由(－E－B)X=0，得η₁=(－1，0，1)^T；
由(E－B)X=0，得η₂=(1，0，0)^T；
由(2E－B)X=0，得η₃=(8，3，4)^T，
令P₂=，则P₂^－1BP₂=
由P₁^－1AP₁=P₂^－1BP₂，得(P₁P₂^－1)^－1AP₁P₂^－1=B，
令P=P₁P₂^－1=