В круг радиуса R вписан прямоугольник одна из сторон которого равна x ( рисунок)....

Пусть вторая сторона y
Тогда площадь будет xy
Т.к. диагональ такого прямоугольника всегда будет равна диаметру, то она равна 2R.
По т.Пифагора можно выразить y через x:
$y= \sqrt{(2R)^2-x^2}= \sqrt{4R^2-x^2}$
Тогда формулу площади можно записать так:
$S(x)=x \sqrt{4R^2-x^2}$

Область определения будет от 0 до 2R (не включая крайние):
неположительные значения у длины не могут быть, а при x>2R подкоренное выражение будет отрицательным.