Т.к. а принадлежит (0;п/2) - значит, угол расположен в 1 четверти, где косинус и синус - положительны.
В условии точно дан угол а - тогда теряется смысл расположения этого угла? Может, дан все-таки его синус?
Если синус, то sina=12/13, cosa=sqrt(1-sin^2(a))=sqrt(1-144/169)=sqrt(25/169)=5/13
26*5/13 - pi/2 = 10-pi/2