【正确答案】解：由题设知AX=β有无穷多组解，则 ， |A|=-(a-1)2(a+2)=0． 求解得a=1或-2．但当a=1时，，此时AX=β无解．而当a=-2时，有，于是a=-2．

【正确答案】解：注意|A-λE|为行和与列和都相等的行列式，易求得|A-λE|=-λ(λ-3)(λ+3)． 因而其特征值为λ1=3，λ2=-3，λ3=0．易求得属于λ1，λ2，λ3的特征向量分别为 α1=(-1，0，1)T，α2=(1，-2，1)T，α3=(1，1，1)T． 因A的特征值互异，故A与对角矩阵相似；又由于A为实对称矩阵，不同特征值的特征向量正交，为求得正交矩阵Q，只需将α1，α2，α3单位化，因此，‖α2‖=，‖α3‖=，故 所求正交阵为Q=[η1，η2，η3]，且有