解:σ的秩等于矩阵的秩。对矩阵A进行初等行变换,,所以r(A)=2,即得σ的秩为2。
σ-1(0)={X|σ(X)=0},又σ在基ε1,ε2,ε3,ε4下的矩阵为A,所以σ-1(0)为齐次线性方程组AX=0的解空间。易知AX=0的基础解系为,α2=(-1,-2,0,1)T,通解为。所以核