y²+2y-3 = (y+3)(y-1)
Поясняю: чтобы получить у² нужно у умножить на у.
Теперь что касается минус трёх. Чтобы это получить нам нужны числа 1 и 3, одно из них должно быть отрицательным. Переходим к среднему члену. Именно он и расставляет знаки. Если бы у нас было -3 и 1, то в сумме мы бы получили -2. А так как мы получили 2, то 3 со знаком плюс, а 1 со знаком минус.
И получаем (у + 3)(у-1)
Удачи!