Что такое ЗАНИМАЕМУЮ ПЛОЩАДЬ ОДНОГО КРУГА НА ДРУГОМ я не знаю, и никто не знает, как я думаю. Скорее всего это и есть площадь пересечения кругов.
Площадь пересечения двух кругов легче всего найти так.
1) В окружности радиуса R площадь сегмента между дугой в 60° и хордой, стягивающей концы дуги, равна π*R^2/6 - R^2*√3/4; то есть разности площадей сектора в 1/6 окружности и правильного треугольника со стороной R (поскольку длина хорды, стягивающей дугу в 60° равно R).
2) Если вписать в ПЕРЕСЕЧЕНИЕ кругов ромб, сторона которого R (почему это можно сделать, докажите самостоятельно), то легко увидеть, что пересечение разбивается на этот ромб (то есть НА ДВА правильных треугольников со стороной R) и 4 сегмента из пункта 1).
То есть можно сразу записать ответ
S = 4*(π*R^2/6 - R^2*√3/4) + 2*R^2*√3/4 = 2*π*R^2/3 - R^2*√3/2;