мне казалось, что "разложить на множители" означает "представить, как произведение линейных сомножителей". Может, я и не прав, но тут я бы решал так
(x - 2*y)^2 - 16(-x)^2 = (x - 2*y - 4*x)*(x - 2*y + 4*x) = (5*x - 2*y)*(-3*x-2*y) =
=(2*y - 5*x)*(2*y + 3*x); странно, что подобные задания вызывают затруднения ...