когда от листа жести квадратной формы отрезали прямоугольник шириной 5 см то осталось150...

Пусть х - длина отрезанного прямоугольника. Тогда 5•х - площадь прямоугольника и она де - сторона квадратного листа жести.
x^2 ( икс в квадрате) - первоначальная площадь листа.

Уравнение:
х^2 = 5х + 150
х^2 -5х - 150 = 0
V(5^2 + 4•160) = V(25+600) = V625 = 25
(V - корень.)
x1=(5+25)/2=30/2=15 см - сторона квадратного листа жести.
х2= (5-25)/2=-20/2=-10 - не подходит, поскольку сторона квадрата не может быть отрицательной.

х^2=15^2=225 кв.см - первоначальная площадь жестяного листа.

Проверка:
1) 15+5=75 кв.см - площадь отрезанного прямоугольника.
2) 225-75=150 кв.см - площадь оставшегося листа жести