Из уравнения b - 2a = 2 выражаем b:
b = 2 + 2a, подставим это в выражение:
3a² + 5a*(2+2a) - 2*(2+2a)² = 3a² + 10a + 10a² - 2*(4+8a+4a²) = 3a² + 10a + 10a² - 8 - 16a - 8a² = 5a² - 6a - 8 = 5*(a² - 6/5a) - 8 = 5*(a² - 2*3/5) + 9/5 - 49/5 =5*(a² - 2*3/5 + 9/25) - 49/5 = - 5*(a-3/5)² - 49/5
Наименьшего значения будет в точке а=3/5, равное -49/5