Пусть x сторона квадрата, тогда стороны прямоугольника - х-2 и х+4. составим квадратное уравнение (х-2)(х+4)=40
х2+2х-48=0
D=b2-4ac=4-(-48)=4+192=196
х1=(-2+14)/2=6
х2=(-2-14)/2=-8(не возможно)
Длина стороны квадрата 6 см, площадь, соответственно, 6*6=36