(方法一)因为AB=O,所以B的列向量都是齐次线性方程组Ax=0的解,又B是非零矩阵,所以齐次线性方程组Ax=0一定有非零解,于是,解得a=1。故本题选D。
(方法二)因为AB=O,所以有r(A)+r(B)≤3,又B≠O,所以r(B)≥1,于是r(A)<3,从而行列式