Перепишем:
(х+2у)(х+у)+(х-2у)(х-у)=4(х²-у²)
х²+ху+у²=21
х²+2ху+ху+2у²+х²-2ху-ху+2у²=4х²-4у²
х²+ху+у²=21
2х²+4у²=4х²-4у²
х²+ху+у²=21
4у²=х²
х²+ху+у²=21
х = ±2у
Подставим во второе уравнение х = 2у
4у²+4у²+у²=21
9у²=21
у = ±корень(21/9) = ±корень(2⅓)
х = 2у = ±2корня(2⅓)
Один вариант решения готов
Теперь подставим во второе уравнение х = -2у
4у²-4у²+у²=21
у²=21
у = ±корень(21)
х = 2у = ±2корня(21)