Вопрос в картинках...

делаем замену:

$y=\frac{x^2+2x}{3}$

получим:

$(2-y)*(4-y)=3$

решаем это уравнение:

$8-2y-4y+y^2=3 \\y^2-6y+5=0 \\D=36-20=16=4^2 \\y_1=\frac{6+4}{2} =5 \\y_2=\frac{6-4}{2}=1$

обратная замена:

$\frac{x^2+2x}{3}=1 \\x^2+2x=3 \\x^2+2x-3=0 \\D=4+12=16=4^2 \\x_1=\frac{-2+4}{2} =1 \\x_2=\frac{-2-4}{2} =-3 \\ \\\frac{x^2+2x}{3}=5 \\x^2+2x=15 \\x^2+2x-15=0 \\D=4+60=64=8^2 \\x_3=\frac{-2+8}{2} =3 \\x_4=\frac{-2-8}{2} =-5$

Ответ: $x_1=1;\ x_2=-3;\ x_3=3;\ x_4=-5$