Sin^2 (2x) = (sin(3x) - sin x)(sin(3x) + sin x)
sin^2 (2x) = 2 sin(4x) cos(2x) * 2 cos(4x) sin(2x)
на sin(2x) сократили, функции от 4х разложили
sin (2x) = 8 sin(2х)cos^2x(2cos^2(2x)-1) Снова сокращаем на sin (2x)
16 cos^4(2x) - 8 cos^2 (2x) -1 = 0
Решаем биквадратное уравнение u= cos^2 (2x)
16 u^2 - 8u - 1 = 0
u1,2 = (8 +- sqrt(64 +64)) / 32 = 0,25(1+-sqrt(2))
Cо знаком минус отбрасываем (нам ещё квадрат извлекать)
Остаётся cos^2 (2x) = (1+sqrt(2))/4
cos^2 (2x) = (1+cos(4x))/2
cos(4x) = ((1+sqrt(2))/2 ) - 1 = (-1 +sqrt(2))/2)