Пусть: Иван купил x - больших раков и x - маленьких раков.
Степан купил y - больших раков и 2y - маленьких раков.
Тогда стоимость покупки:
У Ивана: 5*x+3*x = 8x
У Степана: 5*y+3*(2y)=11y
Причем так как сумма была одинаковой, то 8x=11y, то есть x кратно 11, а y кратно 8.
Далее пусть продавец на сдачу дал Ивану m- больших раков и n маленьких, то
на 100 рублей пришлось: 8x+5m+3n=100. Но так как x кратно 11 и натуральное, то x=11, иначе покупка получится больше 100 р. Отсюда следует, что 5m+3n=12, этому условию подходит только m=0,n=4. То есть Иван унёс 11+11+4 = 26 животных
Далее так как 8x=11y и x=11, то y =8. Пусть p - количество жаб на сдачу выданных продавцом Степану, тогда стоимость его покупки 11y+p=88+p.
Количество жаб требуемое чтобы стоимость покупки было кратно 10 равно 2, то всего животных которых унес Степан равно 8+2*8+2=26
Итого всего 52 животных.