【正确答案】对题设AB=O要有两种思路:一是秩(A)+秩(B)≤n;另一是B的列向量都是AX=0的解向量,据此可得到下列解法.
(1)如k≠9,则秩(B)=2,因而由秩(A)+秩(B)≤3得到秩(A)≤1.显然秩(A)≥1,故秩(A)=1,于是AX=0的一个基础解系含n一秩(A)=3—1=2个解向量.由AB=0知α
1=[1,2,3]
T,α
2=[3,6,k]
T为AX=0的两个线性无关的解向量,于是其通解为k
1α
1+k
2α
2=k
1[1,2,3]
T+k
2[3,6,k]
T,k
1,k
2为任意两个常数.
(2)如k=9,则秩(B)=1,于是秩(A)≤3一秩(B)=2.因而秩(A)=1或秩(A)=2.
当秩(A)=1时,则A的第2,3两行均与第1行成比例,故Ax=0的等价方程组为ax
1+bx
2+cx
3=0,不妨设c≠0,则
