х - сторона квадрата
Если длину увеличить, она,зараза, станет еще длиннее, поэтому ты спутал длину с шириной (или глаголы уменьшить - увеличить). Чтобы уравнять стороны прямоугольника, надо длину уменьшить, а ширину увеличить. Но даже, если эта тупая задача имеет такой вид, то:
х-3 длина прям-ка
х+6 ширина его
х^2 - (x-3)(x+6)= 6
-3x=-12
x=4