Может ты имел в виду cos20*cos40*cos80
Домножим числитель и знаменатель дроби на 2sin20 и т.д.
cos20°cos40°cos80°/1=2cos20°sin20°cos40°cos80°/2sin20°=
sin40°cos40°cos80°/2sin20°=2sin40°cos40°cos80°/2*2sin20°=
sin80°cos80°/2*2sin20°=2sin80°cos80°/2*2*2sin20°=sin160°/8sin20°=
sin(180°-20°)/8sin20°=sin20°/8sin20°=1/8