5. Пусть одна сторона прямоугольника равна а, вторая равна b, тогда имеем два уравнения:
а+3 = b+1 (стороны квадрата)
(а+3)(b+1) - ab = 21 (разность площадей квадратного листа и прям-ка)
а = b - 2,
a + 3b = 18
отсюда b=5,
a=3
сторона квадратного листа равна 6 (а+3=6 или b+1=6)