【正确答案】(I)由题意得,二次型矩阵及其对应的标准形矩阵分别为

由矩阵B可知,矩阵A的特征值为2,2,b。矩阵A的迹tr(A)﹦3﹦2﹢2﹢6,所以b﹦-1。
由于2是矩阵A的二重特征值,而实对称矩阵A必可相似对角化,所以矩阵A的对应于特征值2的线性无关的特征向量有2个。于是矩阵A-2E的秩为1,而

所以a﹦-1。
由(A-λE)x﹦0得,特征值为λ
1﹦λ
2﹦2,λ
3﹦-1,对应的特征向量分别为
α
1﹦(1,0,-1)
T,α
2﹦(0,1,-1)
T,α
3﹦(1,1,1)
T,
由于实对称矩阵属于不同特征值的特征向量正交,所以只需将α
1,α
2正交化得

再将β
1,β
2,α
3单位化得

则正交变换矩阵为
