Пусть а и b - стороны первоначального прямоугольника. Его периметр равен 2(a+b)= 30 см (по условию). Если длину уменьшить на 3 см, она станет равна (а-3) см., а ширину увеличить на 5 см ((b+5)см), то исходная площадь (ab) уменьшится на 8 см, т.е. станет (ab-8)см.
Составим и решим систему уравнений:
S = ab = 8.5*6.5 = 55.25 (см^2)