Может, есть более рациональный способ. Но это - первое, что пришло в голову. Использовано: формула косинуса двойного угла, квадратное уравнение, замена переменной, ограниченность синуса и формулы тригонометрических уравнений. Отбор корней можно было сделать на тригонометрической окружности, но мне показалось, что в данном случае так проще.
Скачать вложение Adobe Acrobat (PDF)