Переставим третье и второе слагаемые местами:
6 * (sin a)^2 - 6 * (cos a)^2 + 4 * (sin a) * (cos a).
Заметим, что можно воспользоваться формулами синуса и косинуса двойного угла, вынося множитель -6 перед синусом и косинусом (выносим с минусом, чтобы получить формулу косинуса двойного угла) и представив 4 как 2 * 2:
-6 * ((cos a)^2 - (sin a)^2) + 2 * (2 * (sin a) * (cos a)) =
-6 * (cos (2 * a)) + 2 * (sin (2 * a)) =
-6 * cos 30° + 2 * sin 30° =
-6 * √3/2 + 2 * 1/2 =
1 - 3 * √3.
Надеюсь, идея решения ясна.