Пуст всю отару разделили на x частей, тогда старший сын получил 25x овец, средний 10x овец и младший x овец. Из условия задачи
10x-x=765
9x=765
x=765/9
x=85 - овцы, которые получил младший брат
10x=85*10=850 - овцы, которые получил средний брат
25x=25*85=2125- овцы, которые получил старший брат
Всего в отаре было: 85+850+2125=3060 овец