x^2+4y^2-4xy-10x+20y+26=(x-2y)^2-10(x-2y)+26. Сделаем замену z=(x-2y): z^2-10z+26
Найдем дискриминант этого выражения D=b^2-4ac=100-104=-4. Дискриминант меньше нуля, а старший коэффициент квадратного трехчлена больше нуля, значит выражение z^2-10z+26 будет больше нуля при любых значениях z. Возвращаясь к замене: (x-2y)^2-10(x-2y)+26 будет больше нуля при любых значениях x и y, соответственно исходное выражение все время принимает положительные значения, что и требовалось доказать.