Когда от листа жести квадратной формы отрезали прямоугольник шириной 5 см то осталось 150...

Пусть изначально длина и ширина листа были по х см. Когда отрезали от ширины 5 см, то длина осталась х см, а ширина составила (х-5) см. Значит,
х*(х-5)=150
$x^{2} -5 x-150=0 \\ D=25-4*(-150)=625=25^2$
$x_1= \frac{5-25}{2} =-10$ - не подходит по условию
$x_2= \frac{5+25}{2} =15$ см сторона листа
15*15 = 225 (см²) - первоначальная площадь листа