Такую штуку нужно решать системой. Пусть первое число - x, тогда второе - y, тогда:
Выразим из первой части системы x:
Теперь подставим первую часть во вторую и решим уравнение (теперь уже, благо, с одной переменной):
Вроде как кошмар. А давайте раскроем скобки!
И вот уже всё намного лучше:
Ответик тот ещё, но это уже что-то - возвращаемся к системе и находим y:
Вот и ответ: кошмар окончен. Подставив x и y в пример увидим, что, о счастье, подходит.
P. S. Уважаемые, кто говорит, что любой пример со всех учебников даёт простые ответы, так что всё можно решить подбором...дерзайте.