2x-y=2
y = 2x - 2 = 2(x-1)
5x^2-8xy+y^2 = 5x^2 - 8x(2x-2) + 4(x-1)^2 = 5x^2 - 16x^2 + 16x +4x^2 - 8x + 4 =
=-7x^2 +8x + 4
-7x^2 +8x + 4 - это парабола с ветвями, направленными вниз. максимальное значение в вершине параболы
найдем вершину параболы:
(-7x^2 +8x + 4)' = -14x + 8
-14x + 8 = 0
x = 4/7
5x^2-8xy+y^2 = -7x^2 +8x + 4 = -7*16/49 +8*4/7 +4 = 44/7 - максимальное значение