Сначала рассмотрим первую часть
a^2+2ab+b^2 можно записать в виде (a+b)^2
дадим общий знаменатель
(a^2*(a+b)-a^3)/(a+b)^2
это равно
(a^2*b)/(a+b)^2
первая часть закончена
теперь рассмотрим вторую часть
a^2-b^2 можно записать как (a-b)*(a+b)
также дадим общий знаменатель и запишем в виде
(a*(a-b)-a^2)/((a-b)(a+b))
дальше сократим первую и вторую часть и получим ответ
-((a-b)/(a+b))