【正确答案】二次型矩阵是

设α是属于特征值λ
0的特征向量,即A
1α=λ
0α,或

易解出 λ
0=3,b=0,a=2.
对于A
1=

,由于|A
1|=0,所以f不是正定二次型.
将a=2,b=0代入方程组,对系数矩阵作初等行变换化为行阶梯形矩阵:

当c=6时,对B进一步用初等行变换化为含最高阶单位矩阵的矩阵,得到

则A
2X=0的一个基础解系含2个解向量:
α
1=[一9,19,一7,1,0]
T ,α
2=[2,一7,2,0,1]
T ,
其通解为X=k
1α
1+k
2α
2 ,k
1 ,k
2为任意常数。
当c≠6即c一6≠0时,矩阵B用初等行变换进一步可化为含最高阶单位矩阵的矩阵:
