Xy второй степени-13xy второй степени+5xy
Ну если надо упростить, то получим такую фигню: xy²-13xy²+5xy = -12xy²+5xy = xy(5-12y)