Общее решение = решение однородного + решение неоднородного.
сначала ищем решение однородного
y''+4y=0 => z^2+4=0 => z=sqrt(4*i) ;
i - мнимая единица i^2=-1;
z1= 2i, z2=-2i
корни комплексные, значит решение однородного при комплексных корнях z=a+bi : a=0, b=2;
Yo=e^a*(C1*cos(bx)+C2*sin(bx))=e^0*(C1*cos(2x)+C2*sin(2x))=C1*cos(2x)+C2*sin(2x).
далее варьируем постоянные С1 и С2, полагая их функциями, зависящими от х.
я заменяю их на другие буквы дабы не запутаться С1, С2 => T1, T2.
в Yo :y1=cos(2x) y2=sin(2x)
y1'=-2sin(2x) y2'=2cos(2x)
это нужно подставить в систему и решить её относительно T1' и T2' :
T1'y1+T2'y2=0;
T1'y1'+T2'y2'=ctg(2x);