【正确答案】两矩阵相似，则tr(A)=tr(B)(矩阵的迹：主对角线元素之和)，|A|=|B|。因为A～B，所以有解得a=7，b=一2。B=
|λE—A|==(λ－5)(λ+1)=0，解得λ=一1或5。
当λ=一1时，(－E－A)=，特征值－1对应的特征性向量为α₁=(一2，1)^T；
当λ=5时，(5E－A)=，特征值5对应的特征性向量为α₂=(1，1)^T。
令P₁=(α₁，α₂)=，则P₁^－1AP₁=Λ=。
因为两矩阵相似，所以矩阵B的特征值也为－1和5。进而有，
当λ=一1时，(一E—B)=，特征值－1对应的特征性向量为β₁=(－1，1)^T；
当λ=5时，(5E－B)=，特征值5对应的特征性向量为β₂=(一7，1)^T；
令P₂=(β₁，β₂)=，使得P₂^－1AP₂=Λ=。
由P₁^－1AP₁=P₂^－1BP₂P₂P₁^－1AP₁P₂^－1=B，
存在可逆矩阵P=P₁P₂^－1=