Если надо выбрать пары углов, то онив сумме должны давать 180, т.е.
95 и 85
100 и 80
Выражение раскладывается на (х2+у2)-5ху(х2-у2), но меня смущают знаки. Если бы около 5 были бы минусы, то можно бы было разложить дальше (х2+у2)(1-5ху), но в том виде, в котором вы написали, этого сделать нельзя. Увы.