【正确答案】正确答案:(I)因为A有n个互不相同的非零特征值λ=1,2,…,n,|A |=n!≠0,故A为可逆矩阵,从而有|λE-AB|=|A(λA
-1
)-B|=|A(λE-BA)A
-1
|=|A||λE-BA||A
-1
|=|λE-BA|, 即AB和BA有相同的特征多项式,故有相同的特征值. 又若取可逆矩阵P=A,则有P
-1
ABP=A
-1
ABA=BA,故有AB~BA. (Ⅱ)若AB有特征值λ=0,则|AB|=|A||B|=|B||A|=|BA|=0.故BA也有特征值λ=0. 若AB有特征值λ≠0,按定义,有ABξ=λξ(ξ≠0), 其中ξ是AB的对应特征值λ的特征向量. 用B左乘上式两端,得BABξ=λBξ. 即 BA(Bξ)=λ(Bξ), 其中Bξ≠0(若Bξ=0,则有ABξ=λξ=0.因ξ≠0,得λ=0,这和λ≠0矛盾).BA也有非零特征值λ,对应的特征向量为Bξ. 故AB和BA有相同的特征值. 一般AB与BA不相似.例如,
