ЛОДУ II порядка с постоянными коэффициентами. Полагаем, что решение пропорционально e^(kx), подставляем в уравнение:
(е^(kx))" +9e^(kx)=0
k^2*e^(kx)+9e^(kx)=0
e^(kx)*(k^2 +9)=0, делим все уравнение на e^(kx):
k^2+9=0
Находим корни, они комплексные:
k1=-3i, k2=3i.
Получаем решение в виде
y(x)= c1cos(3x)+ c2sin(3x)
Константы находим из условий y(0)=0
c1=0 => y(x)= c2sin(3x)
Дифференцируем:
y'(x)= 3c2cos(3x)
y'(0)=0 => c2=0.
Таким образом, решением задачи Коши будет являться функция y(x)=0.
Удачи вам!