【正确答案】 C

【答案解析】合同的定义：C^TAC=B，矩阵C可逆。合同的必要条件是：r(A)=r(B)且行列式｜A｜与｜B｜同号。A选项的矩阵秩不相等。B选项中行列式正、负号不同，故排除。C选项中矩阵A的特征值为1，2，0，而矩阵B的特征值为1，3，0，所以二次型x^TAx与x^TBx有相同的正、负惯性指数，因此A和B合同。而D选项中，A的特征值为1，±2，B的特征值为-1，-2，-2，因此x^TAx与x^TBx正、负惯性指数不同，故不合同。所以选C。