10.  设
【正确答案】解：由AB=O，有R(A)+R(B)≤3．又因为B≠O，有R(B)≥1，从而R(A)≤2．因此，行列式|A|=0．又
   
   所以a=
【答案解析】