Смотрите. существует формула сокращенного умножения:
а^2-b^2 (а квадрат минус b квадрат)=(a-b)*(a+b)
пусть тогда а=корень из 11, а b=корень из 20.
тогда у вас записано:
(a-b)*(a+b)
а это равно: а^2-b^2= корень из 11 в квадрате минус корень из 20 в квадрате = 11-20=-9