Нужно вместо У подставить значения:
-1=х2-х-3, потом переносим -1 вправо, чтобы слева был 0.
(переверну для удобства): х2-х-3+1=0
х2-х-2=0
Решаем квадратное уравнение при помощи Дискриминанта, получаем два корня (-1) и 2, это и будут те значения аргумента, при которых эта функция равна -1.
Под остальными буквами аналогично