Сначала надо каждое выражение разложить по формуле сокращенного умножения. т.е.
1) (а+b)^2 = a^2 + 2ab + b^2
2) (a - b)^3 = (a-b)(a^2 + ab + b^2)
теперь все сопоставляем:
3) (a-2b)*(a^2 + 2ab + b^2) + (a-b)(a^2 + ab + b^2) + 3b^3 = a^3 + 2a^2b + ab^2 - 2a^2b - 4ab^2 - 2b^3+ a^3 + a^2b + ab^2 - a^2b -ab^2 - b^3 + 3b^3 = 2a^3 - 3ab^2.
кроме выделенных значений все сокращаются. если выделенные прибавить, то выйдет ответ. то к чему мы шли.
по-моему ты поймешь сам.