Можно тут решать как 1/x^2?

Поскольку не задана зависимость у=f(x) и интегрирование производится по dx то переменная у принимается как константа.
$\int\limits{ \frac{1}{(x^2+y^2+2x+1)^2} } \, dx= \int\limits{ \frac{1}{((x^2+2x+1)+y^2)^2} } \, dx=\int\limits{ \frac{1}{((x+1)^2+y^2)^2} } \, d(x+1)=$ $\int\limits{ \frac{1}{y^4( \frac{(x+1)^2}{y^2}+1)^2} } \, d(x+1)= \frac{1}{y^3} \int\limits{ \frac{1}{( \frac{(x+1)^2}{y^2}+1)^2} } \, d(\frac{x+1}{y})$

Замена переменных
$\frac{x+1}{y} =tgt$
Следовательно
$d(tgt)= \frac{dt}{cos^2t}$
$\frac{1}{y^3} \int\limits{ \frac{1}{( \frac{(x+1)^2}{y^2}+1)^2} } \, d(\frac{x+1}{y})= \frac{1}{y^3} \int\limits{ \frac{1}{( tg^2t+1)^2} } \, d(tgt)=\frac{1}{y^3} \int\limits{ \frac{cos^4t}{cos^2t} } \, dt=$ $\frac{1}{y^3} \int\limits{ cos^2t \, dt=\frac{1}{y^3} \int\limits{ \frac{cos2t+1}{2} \, dt=\frac{1}{2y^3}(\int\limits{ cos2t \, dt+\int\limits{ \, dt)=$ $\frac{1}{2y^3}( \frac{1}{2}sin2t+t)+C=\frac{sin2t+2t}{4y^3}+C$

Обратная замена переменных для этого применяем универсальную тригонометрическую подстановку $sinx= \frac{2t}{1+t^[tex]где [tex]t=tg \frac{x}{2}$

В нашем случае необходимо заменить sin2t

$sin2t = \frac{2tgt}{1+tg^2t}= \frac{2 \frac{x+1}{y} }{1+( \frac{x+1}{y} )^2}= \frac{2y(x+1)}{y^2+(x+1)^2}$
Подставляем полученное выражение

$\frac{sin2t+2t}{4y^3}+C= \frac{ \frac{2y(x+1)}{y^2+(x+1)^2}+arctg( \frac{x+1}{y} ) } {4y^3}+C$

Можно дальше упрощать, но думаю не имеет смысла