【正确答案】因为方程组有非零解，所以=a(a+1)(a一3)=0，即a=一1或a=0或a=3．因为A是正定矩阵，所以a_ii＞0(i=1，2，3)，所以a=3．当a=3时，由
｜λE一A｜==(λ一1)(λ一4)(λ一10)=0
得A的特征值为1，4，10．因为A为实对称矩阵，所以存在正交矩阵Q，使得
f=X^TAXy₁²+4y₂²+10y₃²≤10(y₁²+y₂²+y₃²)
而当｜X｜=时，
y₁²+y₂²+y₃²=Y^TY=Y^TQ^TQY=(QY)^T(QY)=X^TX=｜X｜=2
所以当｜X｜=时，XTAX的最大值为20(最大值20可以取到，如y₁=y₁=0，y₃=