X - y = 4
x2 - y 2 = 40
Второе разложим на множители
(х+у) (х-у) =40
Теперь разделим на первое, получим
х+у=10
И получаем новую систему, которую решить намного легче
x - y = 4
x + y = 10
Если их сложить, получим 2х=14, х=7
Подставим 7 в любое из двух и получим у=3
Ответы: х=7, у=3.