Я думаю, что в условии опечатка, ибо в данном случае получаются очень "не красивые" корни, что для школьных заданий нехарактерно. А так решение будет вот таким:
1. Сделаем замену переменной x^2=y, тогда уравнение примет вид y^2-6y+3=0.
2. Найдем корни, получившегося квадратного уравнения, они будут следующими y1=3-sqrt(6), y2=sqrt(6)+3.
3. Теперь обратно заменяем переменные и получаем, что
x1=sqrt(3-sqrt(6)) x2=-sqrt(3-sqrt(6))
x3=sqrt(sqrt(6)+3) x4=-sqrt(sqrt(6)+3)