Обозначим высоту СD прямоугольника Х. Тогда ОD=sqrt(6^2-X^2), АD=2*sqrt(6^2-X^2), площадь прямоугольника S=2*X*sqrt(6^2-X^2). Чтобы найти максимум площади, найдем производную и приравняем ее нулю.
S'=2*(X*sqrt(6^2-X^2))'=2*(X'*sqrt(6^2-X^2)+X*(sqrt(6^2-X^2))')=2*(1*sqrt(6^2-X^2)+X*(-2*X)/(2*sqrt(6^2-X^2)))=
=2*(36-X^2-X^2)/sqrt(36-X^2). Производная равна нулю если числитель равен нулю, тогда 2*X^2=36, X=sqrt(18).
Площадь равна 2*sqrt(36-18)*sqrt(18)=2*sqrt(18)*sqrt(18)=36.