【正确答案】

[*]
当a≠1时，r(A)=r(A)=4，所以方程组有唯一解；
当a=1，b≠-1时，r(A)≠r([*])，所以方程组无解；
当a=1，b=-1时，方程组有无穷多个解，通解为
X=k₁(1，-2，1，0)^T+k₂(1，-2，0，1)^T+(-1，1，0，0)^T(k₁，k₂为任意常数)