Для удобства уберём полные обороты:
cos(5π)=cos(4π+π)=cos(π)=-1
cos(5,1π)=cos(4π+1,1π)=cos(1.1π)
cos(1,1π) находится в третьей четверти и там он принимает отрицательные значения. сам косинус по определению -1≤cosx≤1. Значит -1 - максимальное отрицательное значение, которое косинус может принимать и принимает он его только тогда, когда x=π+2πk, k∈Z. Исходя из этого cos(5π)>cos(5,1π)