【正确答案】(1)令

则f(χ
1,χ
2,χ
3)=X
TAX,
矩阵A的特征值为λ
1=5,λ
2=b,λ
3=-4,

从而A=

,特征值为λ
1=λ
2=5,λ
3=-4.
(2)将λ
1=λ
2=5代入(λE-A)X=0,即(5E-A)X=0,
由5E-A=

得λ
1=λ
2=5对应的线性无关的特征向量为

将λ
3=-4代入(2E-A)X=0,即(4E+A)X=0,
由4E+A=

得λ
3=-4对应的线性无关的特征向量为
α
3=

.
令

单位化得

所求的正交变换矩阵为
