【正确答案】AB=0知λ＝0是矩阵A的特征值且矩阵B的列向量(1，0，1)^T是矩阵A属于特征值λ=0的特征向量．故有
[*]
于是[*]
由矩阵A的特征多项式
[*]
得矩阵A的特征值为：6，0，-6．
由(6E-A)x=0得矩阵A属于特征值6的特征向量为(1，2，-1)^T
由(-6E-A)x=0得矩阵A属于特征值一6的特征向量为(-1，1，1)^T
实对称矩阵特征值不同特征向量相互正交，单位化有
[*]
那么令[*]
则有x^TAx=y^TAy=6y²₁-6y²₃．
(Ⅱ)不合同，因为x^TAx＝6y²₁-6y²₃，x^TBx=(x₁+x₃)²=y²₁，它们的正负惯性指数不一样，所以不合同．