【正确答案】 D

【答案解析】解一 显然AB为m阶矩阵，因而(AB)X=0是含m个未知数的齐次方程组，而当m＞n时，有秩(AB)≤秩(A)≤n＜m．因而(AB)X=0有非零解．仅(D)入选．
解二 因秩(A)≤min(m，n)，秩(B)≤min(m，n)，而秩(AB)≤min(秩(A)，秩(B))，于是当n＞m时，有秩(A)≤m，秩(B)≤m，秩(AB)≤m，而AB为m阶矩阵．由于秩(AB)可能小于等于m，只能说当n＞m时，如果秩(AB)=m，则(AB)X=0只有零解，如果秩(AB)＜m，(AB)X=0必有非零解，因而(A)、(B)都不对．
又当n＜m时，秩(AB)≤n＜m，而AB为m阶矩阵，因而矩阵AB的秩小于未知数的个数，齐次方程(AB)X=0必有非零解，于是(C)也不对．仅(D)入选．