Sin(6x) ≡ 2*sin(3x)*cos(3x), поэтому имеем
8*sin(3x)*cos(3x) - 10*cos(3x) + 4*sin(3x) - 5 = 0;
домножим на 2
16*sin(3x)*cos(3x) - 20*cos(3x) + 8*sin(3x) -10 = 0,
можно разложить на множители
(4*sin(3x) - 5)*(4cos(3x) + 2) = 0,
1) 4*sin(3x) - 5 = 0,
или
2) 4*cos(3x) + 2 = 0.
1) sin(3x) = 5/4 >1, и в 1) решений нет, поскольку синус принимает значения лишь на промежутке [-1;1].
2) cos(3x) = -1/2 <=> 3x = arccos(-1/2) + 2*π*n или 3x = -arccos(-1/2)+2*πm,
3x = (2/3)*π + 2*πn, или 3x = -(2/3)*π + 2πm, <=>
x = (2/9)*π + (2/3)*πn, n∈Z,
или
x = -(2/9)*π + (2/3)*πm, m∈Z.