Здравствуйте! В задаче указано уменьшить на 3 и увеличить на 5, значит
(a-3)*(b+5)=41
У нас есть два варианта решения:
1) a - 3 = 41, a = 44
b + 5 = 1, b = -4
2) a - 3 = 1, a = 4
b + 5 = 41, b = 36
При условии, что стороны всегда больше нуля, нам подходит решение
a = 4, b = 36