【正确答案】设

,则

由AC—CA=B得到四元非齐次线性方程组:

存在矩阵C使AC—CA=B成立,上述方程组必有解.为此将上述方程组的增广矩阵

用初等行变换化为阶梯型矩阵:

当a≠一1或b≠0时,因

,方程组无解
当a=一1且b=0,因

=2<n=4方程组有解,且有无穷多解.
其基础解系为
α
1=[1,α,1,0]
T=[1,一1,1,0]
T,α
2=[1,0,0,1]
T.
则对应齐次线性方程组的通解为c
1α
1+c
1α
2.
而方程组①的特解为[1,0,0,0]
T.故方程组①的通解为
X=c
1[1,一1,1,0]
T+c
1[1,0,0,1]
T+[1,0,0,0]
T,
即X=[x
1,x
2,x
3,x
4]
T=[c
1+c
2+1,一c
1,c
1,c
2]
T,亦即
x
1=c
1+c
2+1, x
2=一c
1, x
3=c
1, x
4=c
2(c
1,c
2为任意常数),
故所求的所有矩阵为
