Первый бак x литров.
во втором баку на 20 литров больше чем у первого? x+20.
В третьем 5/8 от первого и второго. (5/8)(x+x+20).
Все вместе 260л.
(5/8)(x+x+20)+x+x+20=260;
(x+x+20)(5/8+1)=260;
(x+x+20)(13/8)=260;
x+x+20 = 160;
x=70; первый бак
x+20=90 второй бак.
(5/8)(70+90)=100 третий бак.
Проверка 70+90+100=260.