Площадь заштрихованной части можно получить, если из площади квадрата вычесть площадь круга.
Найдем площадь квадрата. Она равна 5*5=25.
Найдем площадь круга. Она вычисляется по формуле 
/ .Так как круг вписан в квадрат, то его радиус равен половине стороны квадрата, т.е. 2,5. Площадь круга 6,25
.
Итак, искомая площадь равна 25-6,25 .
Если число взять равным 3,14, то искомая площадь будет равна 5,375.