问答题
【正确答案】
【答案解析】已知A~B

且 r(A)=r(B)=2,

所以 (a-1)b-4=0. ②
由式①②得方程组,解得

又a>b,故 由于A~B,故A、B的特征值都为λ 1 =1,λ 2 =0,λ 3 =6.
当λ=1时,由
当λ=0时,由
当λ=6时,由
由于属于不同的λ,所以ε 1 ,ε 2 ,ε 3 正交.
单位化得

得正交矩阵