По теореме Виета,
x1+x2=-3(A+1)/3=-(A+1),
x1*x2=A^2 / 3
Выразим сумму кубов через сумму и произведение корней:
x1^3+x2^3 = (x1+x2)(x1^2-x1*x2+x2^2) =
(x1+x2)(x1^2+2x1*x2+x2^2-3x1*x2) =
(x1+x2)((x1+x2)^2-3x1*x2) =
-(A+1)((-(A+1))^2-3*(A^2 / 3)) =
-(A+1)(A^2+2A+1-A^2) =
-(A+1)(2A+1) = -2A^2-3A-1
Сумма кубов - функция от параметра A: f(A) = -2A^2-3A-1
Найдем точку максимума функции:
f'(A) = -4A-3
При f'(A)=0: -4A-3 = 0 => A = -3/4.
f'(A) > 0 при A < -3/4
f'(A) < 0 при A > -3/4
Это значит, что A=-3/4 - точка максимума функции, а значит, при A=-3/4 сумма кубов принимает наибольшее значение.