【答案解析】解 f的矩阵为
   
   由
   得A的全部特征值为λ₁=λ₂=0，λ₃=9．
   对于λ₁=λ₂=0，求方程组(OE-A)x=0的基础解系，由
   
   从而可取A的对应于λ₁=λ₂=0的特征向量为
   
   ξ₁与ξ₂已经正交，将它们单位化，得
   
   对于λ₃=9，求方程组(9E-A)x=0的基础解系，由
   
   可取对应于λ₃=9的特征向量为  ξ₃=(1，-2，2)^T
   将其单位化，得
   令矩阵P=[p₁  p₂  p₃]，则P为正交矩阵，在正交变换X=Py，即
   
   下，二次型f化成为