Потому, что гвоздь полностью сделан из железа, в нем нет полостей, а его плотность во много раз больше плотности воды.
А корабли сделаны так, что из стали сделана лишь оболочка. Внутри же их - воздух. Так что, погружаясь, корабль погружает в воду и воздух (звучит коряво, но это так), а плотность воздуха во много раз меньше плотности воды, поэтому на нго действует сила Архимеда и выталкивает уорабль.
Морская вода плотнее речной, а значит выталкивает погруженные тела сильнее. При переходе из реки в море глубина погружения корабля уменьшится.