Делишь 2-е уравнение на 1-е и получаешь dy/dx = (3x+y)/(x-3y)далее преобразуешь к виду dy/dx = (3+y/x)/(1 - 3y/x);затем вводишь новую переменную r = y/x: y=rx:
d(rx)/dx = (3+r)/(1-3r)x(dr/dx) + r = (3+r)/(1-3r)dr/dx = ((3+r)/(1-3r) - r)/x1/((3+r)/(1-3r) -r)dr = xdxдальше решай сама - надеюсь знаешь как пользоваться таблицами интегралов