А по какой это формуле?? x^2-y^2-6x+9=-(y-x+3)*(y+x-3)=(x-y-3)*(y+x-3)

$x^2-y^2-6x+9=$
перепишем в виде
$(x^2-6x+9)-y^2$
$(x^2-2*x*3+3^2)-y^2$
используем формулу квадрата двучлена (квадрата разности)
$(x-3)^2-y^2$
используем формулу разности квадратов
$((x-3)+y)((x-3)-y)=$
$(x-3+y)(x-3-y)=$
$(x-y-3)*(y+x-3)$