设有线性方程组
对此线性方程组的系数矩阵A的增广矩阵进行初等变换如下:

(1)当m≠-1时,r(A)=r(
)=3,方程组有唯一解;
(2)当m=-1,k≠1时,r(A)≠r(
),方程组无解;
(3)当m=-1,k=1时,r(A)=r(
)=2<3,方程组有无穷多解,此时基础解系含解向量个数为3-r(A)=1。
原方程组经过初等变换后对应等价的齐次方程组为
,所以x2=0。
令x3=1,得x1=-1,基础解系的解向量为ζ=(-1,0,1)T。
原方程组经初等变换后等价的非齐次方程组为
,所
。
令x3=0,得x1=
,非齐次方程组的一个特解为η=
。
通解为x=η+tζ=