(2*m)^2 = 2*(a^2 + b^2) - c^2; с - сторона, к которой медиана m проведена.
Я тут столько раз выводил эту простенькую формулку, что уже устал повторять :) Треугольник достраивается до параллелограмма (медиана продолжается за сторону на свою длину и концы соединяются). Потом применяется теорема косинусов к двум треугольникам, на которые делят параллелограмм диагонали c и 2m. Остается только сложить.
В данном случае c = b, b^2 = (2*m)^2 - 2*a^2 = 100 - 2*16*2 = 36; b = 6;