Почему исключают из решения Pi-arcsin(3/5)+2pik
Потому что в них знаменатель равен 0. Ведь если cos(x)=-4/5, то sin(x)=+-3/5.
В дополнение небольшое: у Вас на одном периоде (от нуля до 2*π) всего 3 корня: 0; 0,644 (или arcsin (3/5)); π.