【正确答案】正确答案:由题意,二次型f及其标准形的矩阵分别是

在正交变换下A与Λ相似,故有

=-2(a+2)
2
=0, 解得a=-2,b=-3。 于是,矩阵A的特征值是3,3,-3。 当λ=3时,由(3E-A)x=0,系数矩阵

得基础解系α
1
=(-1,1,0)
t
,α
2
=(-1,0,1)
T
,即λ=3有两个线性无关的特征向量。 当λ=-3时,由(-3E-A)x=0,系数矩阵

得基础解系α
3
=(1,1,1)
T
,即λ=-3的特征向量。 由于λ=3的特征向量α
1
,α
2
不正交,故需施密特正交化。 令β
1
=α
1
=

,则 β
2
=α
2
-([α
2
,β
1
]/[β
1
,β
1
])β=

将三个特征向量单位化,有

那么,所用坐标变换x=Py中,正交矩阵 P=(γ
1
,γ
2
,γ
3
)=
