Я могу только рассуждением
5 литров набираем и выливаем в пустой 8 литровый сосуд
еще раз набираем 5 литров и опять в 8 литровый сосуд
в 5 литровом останется 2 литра ,а 3 литра перейдет в 8 литровый сосуд и он наполнится
5+3=8 литров в 8 литровом сосуде
5-3=2 литра осталось в 5 литровом сосуде
8 литровый опустошаем
туда наливаем оставшиеся 2 литра
еще раз наполняем 5 литровый полностью и наливаем 8 литровый
2+5=7 литров в 8 литровом сосуде