设矩阵
(-∞,0)
由|λE-A|=(λ-1)[λ-(a-2)][λ-(a+2)],可得A的特征值为1,a-2,a+2.又|λE-B|=(λ-2)[λ-(a-1)][λ-(a+1)],可得B的特征值为2,a-1,a+1.当a<-1时,m(A)=1,m(B)=2,符合;当-1≤a<0时,m(A)=a+2,m(B)=2,符合;当0≤a<1时,m(A)=a+2,m(B)=2,舍去;当a≥1时,m(A)=a+2,m(B)=a+1,舍去.综上,a∈(-∞,0)