Я решила:
пусть x - первое число, 3x - второе число, (72-4x) - третье число
y=4x^2 умноженное на (72-4x)
y ' = 576x - 48x^2
576x - 48x^2=0
x=0(не уд. условию) x=12(первое число)
y(12)=13824 - наиб
3x=36(второе число)
72-4x=24(третье число)
12*36*24=10368 - нибольшее