Cамый очевидный вариант, раскрыть куб суммы и затем сгруппировать:
(m+n)³-m²-2mn-n² = m³+3m²n+3mn²+n³-m²-2mn-n² = 3m²n +3mn² -2mn + m³- m² +n³ -n² = mn * (3m+3n-2) + m² * (m-1) + n² * (n-1)
Ещё можно дополнить до квадрата разности и не раскрывать, тогда будет выглядеть чуть компактнее:
(m+n)³-m²-2mn-n² = (m+n)³-m²-2mn+n² -2n² = (m+n)³-(m-n)² -2n²