【答案解析】特征方程为
λ²+λ-2=0，
特征值为λ₁=-2，λ₂=1，y"+y'-2y=0的通解为y=C₁e^-2x+C₂e^x．
设y"+y'-2y=xe^x (*)
y"+y'-2y=sin²x (**)
令(*)的特解为y₁(x)=(ax²+bx)e^x，代入(*)得，
由y"+y'-2y=sin²x得，
显然有特解，
对，令其特解为y=Acos2x+Bsin2x,代入得，则，所以原方程的通解为