Принадлежность угла к промежутку от 180 до 270 означает, что угол находится в третьей четверти, а значит и синус и косинус должны быть отрицательными. Но! В нас в итоге интересует синус половинного угла. А в промежутке от 180/2 до 270/2, т.е. 90 - 135 синус имеет знак плюс.
sin(x/2) = +/- sqrt((1 - cos(x))/2) - по формуле понижения степени
Т.о. из рассуждений выше выбираем знак плюс.
sin(x/2) = sqrt( (1 + 12/13)/2) = sqrt(25/26) = 5/sqrt(26)