【正确答案】由AB=O知,B的每一列均是Ax=0的解,且r(A)+r(B)≤3。
若k≠9,则r(B)=2,于是r(A)≤1,显然r(A)≥1,故r(A)=1。可见此时Ax=0的基础解系所含解向量的个数为3一r(A)=2,矩阵B的第一列、第三列线性无关,可作为其基础解系,故Ax=0的通解为x=k
1(1,2,3)
T+k
2(3,6,k)
T,k
1,k
2为任意常数。
若k=9,则r(B)=1,从而1≤r(A)≤2。
①若r(A)=2,则Ax=0的通解为x=k
1(1,2,3)
T,k
1为任意常数。
②若r(A)=l,则Ax=0的同解方程组为:ax
1+bx
2+cx
3=0,不妨设a≠0,则其通解为
x=k
1(

,1,0)
T+k
2(
