сначало перемножим и перенесём.
3x^2+3x-8x-8=x^2-5 перемножили скобки, каждую с каждым (a+b)(c-d)=ac-ad+bc-bd
3x^2-5x-8=x^2-5
3x^2-5x-8-x^2+5=0 перенесли, при переносе знак меняется
2x^2-5x-3=0
D=b^2-4ac
D=25-4*2*(-3)=49, два минуса это +
x1,2=-b(+-)корень из D/2a
x1=5+7/4=12/4=3
x2=5-7/4=-1/2
подставляй,проверяй