Решение:
30:5=6(см)
Ответ: молоток длинеее гвоздя в 6 см.
Твоя ошибка в том, что если пишут ВО сколько длиннее гвоздь, тогда надо умножать или делить, в зависимости от условия.
А если было бы написано НА сколько длиннее гвоздь, тогда надо было плюсовать и минусовать, опять же в зависимости от условия.