Надо раскрыть скобки, потом упростить, потом решить:
8(х-10)²-11(x+5)²=-3x²-170x+1600
8(x²-20x+100)-11(x²+10x+25)=-3x²-170x+1600
8x²-160x+800-11x²-110x-275=-3x²-170x+1600
перенесем все влево, оставив справа 0:
8x²-160x+800-11x²-110x-275+3x²+170x-1600=0
-100x-1075=0
-100x=1075
x=-1075/100=-10,75