【正确答案】二次型x^TAx的秩为2，即r(A)=2，所以λ=0是A的特征值．
又

所以3是A的特征值，(1，2，1)^T是3的特征向量；一1也是A的特征值，(1，－1，1)^T是一1的特征向量．
因为实对称矩阵特征值不同特征向量相互正交，设λ=0的特征向量是(x₁，x₂，x₃)^T，则有

即解出λ=0的特征向量是(1，0，一1)^T．
那么所以

因此x^TAx=+16x₁x₂+2x₁x₃+16x₂x₃)．
令Q=，则经正交坐标变换x=Qy有x^TAx=y^T =