2x^2+xy-y^2=540
(x+y)(2x-y)=540
первый множитель больше второго поэтому я нашла разложение 540 на множители
27*20;30*18;36*15;45*12;54*10;60*9;90*6;108*5;135*4;180*3;270*2
и решила систему для этих пар чисел с учетом что х и у должны быть целые
30 и 18 х=16
36 и 15 х=17
45 и 12 х=19
60 и 9 х=23
90 и 6 х=28
180 и 3 х=61
Итого 16+17+19+23+28+61=164