В первое уравнение можно добавить и вычесть ху, что не изменит значение уравнения, получается:
х^2+ху+у^2-ху=10
х^2+ху+у^2=10+ху
Так как ху=3, то уравнение приобретает вид:
х^2+ху+у^2=10+3=13
Первая часть уравнения - полный квадрат суммы:
(х+у)^2=13
Это и есть ответ