Cos(12a) - cos(6a) - 2cos(7a)*cos(5a) =
= cos(12a) - cos(6a) - 2*1/2(cos(7a+5a) + cos(7a-5a)) =
= cos(12a) - cos(6a) - cos(12a) - cos(2a) = -cos(6a) - cos(2a) =
=-2cos(4a)*cos(2a)
Теперь подставляем.
Если cos(a) = -1/√5, то cos(2a) = 2cos^2(a) - 1 = 2*1/5 - 1 = -3/5
cos(4a) = 2cos^2(2a) - 1 = 2*9/25 - 1 = 18/25 - 1 = -7/25
Подставляем
-2cos(4a)*cos(2a) = -2*(-7/25)(-3/5) = -42/125