как получить наиболее точный результат при измерении малых физических величин?

Ну очевидный вариант - использовать более точные измерительные приборы.

Если расчет связан с иррациональными константами, брать как можно больше знаков после запятой.