Раз наибольший угол отклонения а, значит в этом положении скорость маятника=0, а потенциальная энергия Ер=Mgh, за нулевой уровень потенциальной энергии беру положение маятника в положении равновесия.
Ep=Mg*(l-l*cos(a))=Mgl*(1-cos(a))=Mg(1-cos(a)), т.к. l=1