Это неоднородное уравнение 2 порядка.
1) Решаем однородное.
y''+2y'+5y=0
Характеристическое уравнение
k^2+2k+5=0
k^2+2k+1+4=(k+1)^2+2^2=0
Его корни комплексные
k1=-1-2i; k1=-1+2i
Решение однородного уравнения
y0=e^(-x)*(C1*cos 2x + C2*sin 2x)
2) Решаем неоднородное.
y~=Acos 2x+Bsin 2x
(y~)'=-2Asin 2x+2Bcos 2x
(y~)''=-4Acos 2x-4Bsin 2x
Подставляем в уравнение
-4Acos 2x-4Bsin 2x-4Asin 2x
+4Bcos 2x+5Acos 2x+5Bsin 2x=
=-sin 2x
Коэф-нты при sin и при cos должны быть равны слева и справа.
-4А+4В+5А=A+4B=0
-4B-4A+5B=-4A+B=-1
Умножаем 1 ур-ние на 4
4A+16B=0
-4A+B=-1
Складываем уравнения
17B=-1; B=-1/17
4A=B+1=-1/17+1=16/17; A=4/17
Подставляем в функцию y~
y~=4/17*cos 2x - 1/17*sin 2x
Итоговый ответ: y=y0+y~
y=e^(-x)(C1*cos 2x + C2*sin 2x) +
4/17*cos 2x - 1/17*sin 2x
Можно упростить
y=(C1*e^(-x)+4/17)*cos 2x +
+ (C2*e^(-x)-1/17)*sin 2x