【正确答案】
【答案解析】[证] 设λ≠0是AB的任一特征值,α≠0是AB与λ对应的特征向量,即
(AB)α=λα, ①
用B左乘上式两端,有
(BA)(Bα)=λ(Bα), ②
若记β=Bα,则②式可写成
(BA)β=λβ,
由①式知β=Bα≠0(否则就有α=0).因此λ是矩阵BA的特征值.
设λ=0是AB的特征值,α≠0是对应的特征向量,即
(AB)α=0·α=0,
亦即α是齐次方程组
(AB)α=0
的非零解,于是齐次方程组的系数行列式
|AB|=|A|·|B|=|BA|=0.
因而齐次方程组(BA)x=0有非零解β,所以β满足
(BA)β=0·β,
故λ=0是矩阵BA的特征值.
综上所述,矩阵AB的特征值都是矩阵BA的特征值,同理可证BA的特征值都是AB的特征值,故(1)中结论成立.
又若设AB,BA的特征值为λ1,λ2,…,λn,则由公式
tr(AB)=λ1+λ2+…+λn,
tr(BA)=λ1+λ2+…+λn,
有tr(AB)=tr(BA),即(2)成立.