Нужно найти сначала координаты вершины В.
Точка М делит отрезок ВС пополам, поэтому их можно найти из векторного соотношения:
СМ = МВ (оба - векторы)
или
XM-XC = XB - XM => XB = 2*XM-XC
YM-YC = YB - YM => YB = 2*YM-YC
ZM-ZC = ZB - ZM => ZB = 2*ZM-ZC
Точка N делит отрезок АС пополам, поэтому
XN = (XA+XC)/2; YN = (YA+YC)/2; ZN = (ZA+ZC)/2.
Ну, и наконец, длина отрезка BN - по известной формуле:
BN = корень((XN-XB)²+(YN-YB)²+(ZN-ZB)²)