Тут возможна два случая:
1) если x и y будут равны нулю, то вместо многоточия надо поставить "="
2) для любых x и y (даже если один из них равен нулю) знак "<"</em> , так как любое выражение в скобках больше нуля, а при умножении на отрицательное число, оно будет меньше нуля