Чтобы найти нули функции, нужно просто прировнять все к нулю:
x^4-2x^2-3=0
Допустим, что x^2=t, тогда:
t^2-2t-3=0
Ищем корни за теоремой Виета:
t1=3
t2=-1
Возвращаемся выше:
!!!t=x^2!!!
х^2=3
х^2=-1 (уравнение не имеет корней)
x=√3, -√3
Ответ: √3, -√3