Не совсем понятен рисунок, но вроде так:
Горизонтальная пунктирная линия делит сторону квадрата пополам, тогда в верхней части у нас две четверти от большого квадрата, их суммарная площадь = половине площади всего квадрата, то есть (8*8)/2=32, и в левом нижнем углу имеем половинку четверти большого квадрата, её площадь ((8/2)*(8/2))/2=8. В итоге площадь выделенной пунктиром фигуры 32+8=40