x^2 + 10y^2 - 6xy +10 x - 26 y + 30>0
перепишем неравенство в виде
x^2 - 2x(3y-5) +(3y-5)^2-(3y-5)^2+ 10y^2 - 26 y + 30>0
используя формулу квадрата двучлена
(x-3y+5)^2 -9y^2+30y-25+ 10y^2 - 26 y + 30>0
сводя подобные члены
(x-3y+5)^2 +y^2 +4 y + 5>0
перепишем в виде
(x-3y+5)^2 +y^2 +4 y + 4+1>0
группируя
(x-3y+5)^2 +(y^2 +4 y + 4)+1>0
используя формулу квадрата двучлена
(x-3y+5)^2 +(y +2)^2 +1>0
квадрат любого выражения неотрицателен,
сумма двух неотрицатеьных выражений неотрицательна
сумма неотрицательного выражения и положительного величина положительная
поэтому (x-3y+5)^2 +(y +2)^2 +1>0 верно для любых значений x и y, а значит
и исходное неравенство x^2 + 10y^2 - 6xy +10 x - 26 y + 30 >0
Доказано