При решении используется следующие тождества:
cos²α=(1+cos2α)/2;
cosα+cosβ=2cos((α+β)/2)cos((α-β)/2).
2(2cos²α+cosα-1)=2(2(1+cos2α)/2+cosα-1)=2(1+cos2α+cosα-1)=4cos((2α+α)/2)cos((2α-α)/2)=4cos3α/2cosα/2
В условии сказано, что cos3α/2cosα/2=1/2 => 2(2cos²α+cosα-1)=2