1) (-1/8)*a²+(1/4)*a*b-(1/8)*b²=(-1/8)*(a²-2*a*b+b²)=(-1/8)*(a-b)²
2) 3*a*(b-4)-2*b+8=3*a*(b-4)-2*(b-4)=(b-4)*(3*a-2)
3) x³-3*x²-x-3=x²*(x-3)-(x+3)
Примичание: 3-ье выражение при таком условии не раскладывается. Скорее всего там должно быть такое условие "x³-3*x²-x+3". Если так, то:
x³-3*x²-x+3=x²*(x-3)-(x-3)=(x-3)*(x²-1).