X2 - это, я так понимаю, х в квадрате?
Подставляете аргумент в функцию и получаете выражение.
f(2x+3)=(2x+3)^2=4x^2+12x+9
g(x+2)=3(x+2)^2=3x^2+12x+12
Далее приравниваете и решаете как обычное квадратное уравнение.
Ответ: корень из 3, минус корень из 3