【正确答案】由A是三阶实对称矩阵知，A^*也是三阶实对称矩阵．由题设知[*][*]，所以A^*有特征值μ₁=-1，μ₃=1，且它们对应的特征向量分别为α₁=(1，0，-1)^T，α₃=(1，0，1)^T.
由于f(x₁，x₂，x₃)=x^TAx在正交变换x=Qy下的标准形为[*]，所以A的特征值为λ₁=λ₂=1，λ₃=-1，|A|=λ₁·λ₂·λ₃=1，因此A^*的特征值除[*]-1，[*]外，还有[*]，记它对应的特征向量为α₂=(a₁，a₂，a₃)^T，
则它分别与α₁，α₃正交，于是有
[*]
其基础解系为(0，1，0)^T，故可取α₂=(0，1，0)^T．由于A的对应λ_i的特征向量即为A^*的对应μ_i的特征向量(i=1，2，3)，所以A对应λ₁=1，λ₂=1，λ₃=-1的特征向量分别为α₁，α₂，α₃．
显然α₁，α₂，α₃是正交向量组，现将它们单位化：
[*]
记[*](正交矩阵)，则在正交变换x=Qy下
[*]
且[*]，所以
[*]

【答案解析】题解中有以下三点值得注意：
(Ⅰ)当用正交变换x=Qy(其中x=(x₁，x₂，…，x_n)^T，y=(y₁，y₂，…，y_n)^T，Q是正交矩阵)将二次型f(x₁，x₂，…，x_n)=x^TAx(其中A是n阶实对称矩阵)化为标准形
[*]时，λ₁，λ₂，…λA_n必都为A的特征值，从而
λ₁+λ₂+…+A_n=trA，λ₁λ₂-λ_n=|A|.
(Ⅱ)设A是n阶可逆矩阵，α是A的对应特征值λ的特征向量，则A^*有特征值μ=[*]，且α是A^*的对应μ的特征向量．
(Ⅲ)A^*也可计算如下：
由于[*]，所以
[*]
因此，由A^*的定义可得[*]