【答案解析】解一 易求得|λE-A|=λ(λ-3)
2,故A的特征值为3,3,0,而B的特征值为1,1,0,它们不相同,但正特征值个数相同,且秩(A)=秩(B)=2,故A与B不相似,但合同.仅(B)入选.
解二 由命题2.5.3.3(4)知,如A与B相似,则tr(A)=tr(B),但tr(A)=2+2+2=6≠tr(B)=1+1+0=2,故A与B不相似.
由于A的特征值为3,3,0,而B的特征值为1,1,0,X
TAX与X
TBX有相同的正、负惯性指数p=2,q=0.因而由命题2.6.4.1知A与B合同,于是仅(B)入选.
解三

其中
