【正确答案】设

则

由AC-CA=B得到四元非齐次线性方程组:

存在矩阵C使AC-CA=B成立,上述方程组必有解.为此将上述方程组的增广矩阵

用初等行变换化为阶梯形矩阵:

当a≠-1或b≠0时,因秩(

)≠秩(G),方程组无解.
当a=-1且b=0时,秩(

)=秩(G)=2<n=4,方程组有解,且有无穷多解.由基础解系和特解的简便求法得到,其基础解系为:
α
1=[1,a,1,0]
T=[1,-1,1,0]
T,α
2=[1,0,1,0]
T则对应齐次线性方程组的通解为c
1α
1+c
2α
2.
而方程组①的特解为[1,0,0,0]
T,故方程组①的通解为
X=c
1[1,-1,1,0]
T+c
2[1,0,0,1]
T+[1,0,0,0]
T即X=[x
1,x
2,x
3,x
4]
T=[c
1+c
2+1,-c
1,c
1,c
2]
T,亦即x
1=c
1+c
2+1,x
2=-c
1,x
3=c
1,x
4=c
2(c
1,c
2为任意常数),故所求的所有矩阵为

其中c
1,c
2任意常数.
