У тебя какая-то странная формула, даже размерность не совпадает.
h[м] = S[м^2]*H[м] / (p[кг/м^3]*m[кг]) = [м^3] / (кг^2/м^3) = м^6 / кг^2
Правильно так. Налили воду в стакан. Объем воды без уточки
V0 = S*H0
Опустили уточку в воду. Согласно закону Архимеда, она вытеснит объем воды, равный объему погруженной в воду части уточки.
При плотности воды p и массе уточки m этот объем равен
v = m/p = S*h
Отсюда
h = m/(p*S)