Из всех прямоугольников с одинаковым периметром наибольшая площадь у квадрата, но жаль, здесь это вроде как не проходит)) Рассмотрим подобные треугольники, исходный и верхний маленький, составим пропорцию, приняв стороны прямоугольлника за х и у
х/12=(10-у)/10
у=10-5х/6
S(x)=10x-5x²/6
S`(x)=10-10x/6=0
x=6, у=5
площадь 30