Моляльность раствора есть отношение количества растворенного вещества в молях к массе растворителя в килограммах. Иных формул никаких нет.
В данном случае в 100 граммах раствора азотной кислоты содержится 40 граммов растворенной кислоты (40:63 = 0,635 моль) и 100 - 40 = 60 граммов (0,06 кг) воды. Моляльность раствора составляет 0,635:0,06 = 10,58 моль/кг.