y^2*cos(x) = a^2*sin(x*y^2)
y^2*cos(x) - a^2*sin(x*y^2) = 0
Берем производную от функций, и от y, как от функции y(x).
2y*cos(x)*y' + y^2*(-sin(x)) - a^2*cos(x*y^2)*(y^2 + x*2y*y') = 0
Объединяем y' отдельно, остальное отдельно
2y*cos(x)*y' - a^2*cos(x*y^2)*x*2y*y' = a^2*cos(x*y^2)*y^2 + y^2*sin(x)