Как найти, например 2√3? Что с этим делать?

Как правило, это и есть окончательный ответ.
если такое число получается в промежуточном решении, продолжай решать, возможно, корень сократится.
бывает, такое число встречается в примерах, связанных с синусами и косинусами, это тоже нормально