（1） A与B合同知，二者有相同的正负惯性指数，显然，B 的特征值为k,6,0 , 故 A 有特征值 0 . 故| A |= 0.

计算得，即有a=4，此时 ，知 A 的特征值为3,6,0, 即 p = 2 . 故k > 0 .

（2）由Q ^TAQ = B ，知Q ^-1AQ = B .

故 A 与 B 相似，特征值相同，故 k = 3.

对 A: λ=  3时，解(3E - A)x = 0 ,得；

当λ =6 时, 解(6E - A)x = 0 , 得；

当λ  = 0 时, 解(0· E - A)x = 0 得

再单位化得：