Вычислить площадь прямоугольника.
Вычислит площадь круга с диаметром равным стороне прямоугольника.
Вычесть из площади прямоугольника площадь круга.
Второй вариант- практически аналогично.
Площадь круга считаем по формуле S= число пи (3,14) Х на квадрат радиуса.