【答案解析】解 因为A～B，所以tr(A)=tr(B)，|A|=|B|，即
解得a=1，b=0，则

因为A～B，所以矩阵A，B的特征值都为λ ₁ =1，λ ₂ =0，λ ₃ =6．
当λ=1时，由(E-A)X=0，得
当λ=0时，由(0E-A)X=0，得
当λ=6时，由(6E-A)X=0，得
令
再令