Если нарисовать схему, в окуружность и треугольник и квадрат, и буквами обозвать!!
так как треугольник равносторонний, то АВ=12/3=4см.
R=OB=(пишу словами) АВ разделить на квадрат из 3 = 4 разделить на квадрат из 3 =
так как FKNE вписанный квадрат, то FK=R умножить на квадрат из 2.
Решить не успеваю, может поможет.