x^2+(m-3)x+m^2-6m-9.75=0
x^2+(m-3)x+m^2-6m+9-18.75=0
x^2+(m-3)x+(m-3)^2-18.75=0
D=(m-3)^2-4*((m-3)^2-18.75)=75-3*(m-3)^2=3*(5^2-(m-3)^2)
решения действительны значит D>=0 значит -5 <= m-3 <= 5 значит -2 <= m <= 8<br>причем при m=-2 и m=8 имеем по одному корню вместо двух
теперь т.Виетта
x1+х2=-(m-3)
x1*x2=(m-3)^2-18.75
x1^2+х2^2=(x1+х2)^2-2*x1*x2 = (m-3)^2-2(m-3)^2+2*18.75 = 37,5-(m-3)^2
поиск минимума функции f(m) = 37,5-(m-3)^2 на участке [-2;8] дает результат
что 37,5-(m-3)^2 принимает максимальное значение при m=3 и равно 37.5
и что 37,5-(m-3)^2 принимает минимальное значение при m=-2 и m=8 и оно равно 13
заметим также что при m=-2 корень единственный х=-(m-3)/2=2,5; и сумма квадратов корней x^2=6,25
и при m=8 тоже корень единственный х=-(m-3)/2=-2,5; и сумма квадратов корней x^2=6,25
из вариантов m=-2 и m=8 выбираем максимальный m=8 - это ответ