Имеем однородное уравнение. Решаем стандартно - замена t(x) = y(x) / x
Тогда y = t x, y' = x t' + t
(1 - t^2) x^2 (x t' + t) = 2 x^2 t
(1 - t^2) (x t' + t) = 2t
x t' = 2t / (1 - t^2) - t = t (1 + t^2) / (1 - t^2)
В таком уравнении переменные разделять уже очень просто.
dt * (1 - t^2) / (t (1 + t^2)) = dx / x
Интегрируем левую часть:
Правая часть - ln|x|.
Итак,
Домножаем на двойку и берем экспоненту обеих частей:
Константу определим прямо сейчас, заметив, что t(1) = y(1) / 1 = 1, С^2 = 4.
(При решении учтено, что y(1) = 1).
Это и есть ответ. Полезно отметить, что условия для теорем единственности не выполнены, и решение не единственно (и, вообще говоря, всё настолько плохо, что решения не дифференцируемы в точке x = 1)