【正确答案】

【答案解析】 求二次型X^TAX在正交交换下的标准形也就是求二次型矩阵A的特征值．
设α₁=(2，1，2)^T，根据特征值定义Aα=λα得

即

解出a=b=2，λ₁=3．
又r(A)=2，知|A|=0，于是λ₂=0是A的特征值．
再由∑a_ii-∑λ_i，有1+(-5)+1=3+0+λ₃，于是λ₃=-6是A的特征值．
因此，正交变化下二次型的标准形为