Надо использовать способ подстановки: у = 5 - х.
Тогда второе уравнение примет вид:
х²-х(5-х)+25-10х+х²=13
3х²-15х+12 = 0 можно сократить на 3:
х²-5х+4 = 0.
Квадратное уравнение, решаем относительно x:
Ищем дискриминант:D=(-5)^2-4*1*4=25-4*4=25-16=9;
Дискриминант больше 0, уравнение имеет 2 корня:
x₁=(√9-(-5))/(2*1)=(3-(-5))/2=(3+5)/2=8/2=4;
x₂=(-√9-(-5))/(2*1)=(-3-(-5))/2=(-3+5)/2=2/2=1.