начнем с простого.Пусть одно число х, а второе (15-х). Тогда составляешь функцию f(x)=x^2*(15-x)
Потом находишь производную этой функции, приравниваешь ее к нулю, ищешь точки экстремума. На одной числовой прямой отмечаешь точки экстремума и промежуток, т.е. 0
Проще говоря
Решаем системой
х+у=15
х2*у=мах
у=15-х
х2*(15-х)
15х2-х3=мах
берем производную
30х-3х2=0
3х(10-х)=0
х=10
у=5