Характеристич. уравнение к²-2к-3=0⇒к=-1; к=3
Общее решение у=с₁е⁻ˣ+с₂е³ˣ
у'=-с₁е⁻ˣ+2с₂е³ˣ
Подставим начальные данные. Надеюсь. что и х=0,
8=с₁+с₂
-с₁+2с₂=0
откуда 3с₂=8, с₂=8/3, тогда с₁=8-8/3=16/3
и общее решение, удовл. нач. условиям будет таким
у=(16/3)е⁻ˣ+(8/3)е³ˣ