【正确答案】 D

【答案解析】二阶线性齐次微分方程y''-2y'+5y=0的特征方程为r²-2r+5=0，特征根为
r_1,2=1±2i．
因为λ±iω=1±2i是特征根，所以设二阶线性非齐次微分方程
y''-2y'+5y=e^xcos2x
的特解为y^*=xe^x(Acos2x+Bsi2x)．从形式上看，应选A，但注意到题目条件A，B均是不等于零的常数，进一步，
y'^*=(x+1)e^x(Acos2x+Bsin2x)+xe^x(-2Asin2x+2Bcos2x)，
y''^*=(x+2)e^x(Acos2x+Bsin2x)+2(x+1)e^x(-2Asin2x+2Bcos2x)+xe^x(-4Acos2x-4Bsin2x)，
将y^*，y'^*，y'''^*代入y''-2y'+5y=e^xcos2x，并化简整理得
4Be^xcos2x-4Ae^xsin2x=e^xcos2x，
从而A=0，B=