【正确答案】二次型对应的实对称矩阵为A＝，因为AB＝O，所以

从而解得
下面求A的特征值

所以A的特征值为0，6，－6。
当λ＝0时，求解线性方程组(0E－A)x＝0，解得α₁＝(1，0，1)^T；
当λ＝6时，求解线性方程组(6E－A)x＝0，解得α₂＝(－1，－2，1)^T；
当λ＝－6时，求解线性方程组(－6E－A)x＝0，解得α₃＝(－1，1，1)^T。
下将α₁，α₂，α₃单位化

令Q＝(β₁，β₂，β₃)，
则二次型通过正交变换x＝Qy化为标准形f＝6y₂²－6y₃²，其中

【正确答案】矩阵A与B不合同。因为r(A)＝2，r(B)＝1，由合同的必要条件可知矩阵A与B不合同。