Решаем по действиям:
1. (x-4)*(4*x+6)=x^2*4-10*x-24
2. (x-5)^2=x^2-10*x+25
3. x^2*4-10*x-24-(x^2-10*x+25)=x^2*4-10*x-24-x^2+10*x-25
4. x^2*4-x^2=3*x^2
5. -10*x+10*x=0
6. -24-25=-49
Решаем по шагам:
1. x^2*4-10*x-24-(x-5)^2=0
2. x^2*4-10*x-24-(x^2-10*x+25)=0
3. x^2*4-10*x-24-x^2+10*x-25=0
4. 3*x^2-10*x-24+10*x-25=0
5. 3*x^2-24-25=0
6. 3*x^2-49=0
Ответ: 3*x^2-49=0