стороны большого и малого квадратов: 2*х и 2*у
радиус окружности = R
расстояния от центра окружности до вершин вписанных квадратов, лежащих на окружности:
(2*х – h)^2 + x^2 = R^2
(2*y + h)^2 + y^2 = R^2
x - y = (4/5)*h.
разность длин сторон квадратов = (8/5)*h