10x-10y - вынесем 10 за скобку: 10x-10y=10(x-y)
-x^2+2xy-y^2 - вынесем -1 за скобку, а то что в скобке свернем по формуле (a-b)^2=a^2-2ab+b^2: -(x^2-2xy+y^2)=-(x-y)^2
Тогда выражение
(10x-10y)/(-x^2+2xy-y^2) примет такой вид:
10(x-y)/(-(x-y)^2) - (x-y) сокращается, остается:
-10/(x-y)
подставим
x=100+sqrt2
y=120+sqrt2
в -10/(x-y), получим:
-10/(100+sqrt2-120-sqrt2)=-10/-20=1/2