【正确答案】二次型f(x
1,x
2,x
3)的矩阵为

由题设知Q
-1AQ=Q
TAQ

A的一个特征值为零,所以有

故得a=2.由A的特征方程

=(λ-6)(λ+3)λ=0
得A的全部特征值,不妨设λ
1=6,λ
2=-3,λ
3=0,
对于λ
1=6,解方程组(6I-A)x=0,对应的单位特征向量可取为ξ
1=

(1,0,-1)
T;
对于λ
2=-3,解方程组(-3I-A)x=0,对应的单位特征向量可取为ξ
2=

(1,-1,1)
T;
对于λ
3=0,解方程组Ax=0,对应的单位特征向量可取为ξ
3=

(1,2,1)
T.
因此,所求的正交矩阵可取为
Q=(ξ
1,ξ
2,ξ
3)
