【答案解析】由题意可知矩阵C为2阶矩阵,故可设

,由AC-CA=B,可得

整理后可得方程组

①
由于矩阵C存在,故方程组①有解,对①的增广矩阵进行初等行变换:

方程组有解,故a+1=0,b=0,即a=-1,b=0.
当a=-1,b=0时,增广矩阵变为

x
3,x
4为自由变量,令x
3=1,x
4=0,代入相应齐次方程,得x
2=-1,x
1=1.
令x
3=0,x
4=1,代入相应齐次方程组,得x
2=0,x
1=1.
故ξ
1=(1,-1,1,0)
T,ξ
2=(1,0,0,1)
T,
令x
3=0,x
4=0,得特解η=(1,0,0,0)
T,
方程组的通解为x=k
1ξ
1+k
2ξ
2+η=(k
1+k
2+1,-k
1,k
1,k
2)
T(k
1,k
2为任意常数),
所以
