【正确答案】由A~B,得

解得a=7,b=一2。
由矩阵A的特征多项式|λE—A|=

=λ
2一4λ一5,得A的特征值是λ
1=5,λ
2=一1。它们也是矩阵B的特征值。
分别解齐次线性方程组(5E—A)x=0,(一E—A)x=0,可得到矩阵A的属于λ
1=5,λ
2=一1的特征向量依次为α
1=(1,1)
T,α
2=(一2,1)
T。
分别解齐次线性方程组(5E—B)x=0,(一E—B)x=0,可得到矩阵B的属于λ
1=5,λ
1=一1的特征向量分别是β
1=(一7,1)
T,β
2=(一1,1)
T。
令

,则有P
1—1AP
1=

=P
2—1AP
2。
取P=P
1P
2—1=
