Давайте выразим сумму квадратов корней уравнения ax² + bx + c = 0:
x1 + x2 = -b
x1 × x2 = c
(x1 + x2)² = x1² + 2 × x1 × x2 + x2² = (-b)²
x1² + x2² = b² - 2c
Нуше уравнение: х² + (2 - m)x - (m + 3) = 0
b² - 2c = (2 - m)² + 2(m + 3) = 4 - 4m + m² + 2m + 6 = m² - 2m + 10
f(m) = m² - 2m + 10
f'(m) = 2m - 2
f'(m) = 0 => m = 1 (это точка минимума ф-ции f(m), в этой точке наша сумма наименьшая)
Ответ: m = 1