Пусть одна из неизвестных сторон равна х, тогда другая 11-х.
По теореме косинусов х²+(11-х)²-2·х·(11-х)·сos60=37,
х²+121-22х+х²-11х+х²=37,
3х²-33х+84=0,
х²-11х+28=0,
х₁=4, х₂=7.
4+7=11 ⇒ стороны около угла в 60° равны 4 и 7.
S=(1/2)ab·sinα=4·7·√3/4=7√3 (ед²) - это ответ.