По формуле сокращенного умножения собери числитель
(х-3 корень из у) и все это выражение в квадрате, а затем поставь перед дробью минус и поменяй местами в знаменателе числа (х-3 корень из у), потом сократи и у тебя останется число - (х-3 корень из у)