Фраза "в целых числах" позволяет нам использовать разные хитрости при решении. Например, в данном случае, можно выделить полные квадраты в левой части уравнения.
Сумма квадратов двух чисел равна квадрату третьего числа. Сразу вспоминается пифагорова тройка (3, 4, 5). Еще возможны варианты, когда содержимое одной скобки равно 5, а другой - нулю. Ну и, конечно же, нужно рассматривать отрицательные значения. Начинаем перебор...
Ответ: (12; -4), (10; -2), (2; -4), (10; -6), (4; -6), (4; -2)