【正确答案】令f(A)=A-3A²，设α是矩阵A的属于特征值λ的特征向量，即Aα=λα，则(kA)α=(kλ)α，A^mα=λ^mα(其中k∈R，m∈N)，因此对任意多项式f(x)，有f(A)α=f(λ)α，即f(λ)为f(A)的特征值．即λ-3λ²是B=A-3A²的特征值．由A的特征值为-1，1，2，可知B的特征值为-4，-2，-10，且detB=-80．