двадцатку оставь себе.. . особенно рублей.. .
система a*b=168; a^2+b^2=25^2
2a*b=336 - первое уравнение умнож. на 2 и сложить со вторым
a^2+2a*b+b^2=625+336
по формуле сокращенного умножения
(a+b)^2=961
извлекаем корень из обеих частей
a+b=31
выражаем одну сторону через другую
a=31-b
подставляем в первое уравнение
31b-b^2=168
дальше - обычное квадратное уравнение
b^2-31b+168=0