【答案解析】解析:对f配方,可得 f=(x
1
+ax
3
)
2
一(x
2
—2x
3
)
2
+(4一a
2
)x
3
2
于是f可经可逆线性变换

化成标准形 f=z
1
2
一z
2
2
+(4一a
2
)z
3
2
若4一a
2
<0,则f的负惯性指数为2,不合题意; 若4一a
2
≥0,则f的负惯性指数为1. 因此,当且仅当4一a
2
≥0,即|a|≤2时,f的负惯性指数为1. f的矩阵为

A的特征多项式为

设A的特征值为λ
1
,λ
2
,λ
3
,则f经正交变换可化成标准形 f=λ
1
y
1
2
+λ
2
y
2
2
+λ
3
y
3
2
λ
1
,λ
2
,λ
3
中为负的个数即,的负惯性指数,且由特征值的性质知 λ
1
λ
2
λ
3
=det(A)=4一a
2
。 由于f既可取到正值、又可取到负值,所以λ
1
,λ
2
,λ
3
中至少有一个为正的,也至少有一个为负的。 λ
1
,λ
2
,λ
3
的符号只有下列3种可能: (1)λ
1
λ
2
λ
3
=0,此时有λ
3
=0,λ
1,2
=
