Пусть сейчас брату x-лет, а сестре y, тогда имеем систему уравнений
x-1=2(y-1) => x-2y=-1
(x+5)/(y+5)=8/7 => 7x-8y=5
Первое уравнение умножим на 7
7x-14y=-7
вычтем это уравнение с первого, получим
6y=12 => y=2 - количество лет сестре
x-2y=-1 => x=2y-1 => x=3 года брату