【正确答案】[解] 二次型矩阵[*]
设α=(1，k，-2)^T是矩阵A对应于特征值λ₁的特征向量，按定义有
[*]
[*]
由特征多项式
[*]
得到矩阵A的特征值为2，0，-1．
由(2E-A)x=0得基础解系α₁=(1，1，-2)^T；
由(0E-A)x=0得基础解系α₂=(1，-1，0)^T；
由(-E-A)x=0得基础解系α₃=(1，1，1)^T．
因为特征值不同特征向量α₁，α₂，α₃已两两正交，故单位化有
[*]
那么经正交变换
[*]
有[*]