X²+y²=100
3x-2y=12
из второго выражаем y и подставляем в первое, получаем
y=(3x-12)/2
x²+(3x-12)²/2²=100
4x²+9x²-72x+144=400
13x²-72x-256=0
D=72²+4*13*256=5184+13312=18496=136²
x1=(72+136)/26=8
x2=(72-136)/26= -64/26= -32/13
y1=(3*8-12)/2=6
y2=(-3*32/13-12)/2=(-96-156)/26= -252/26= -126/13
ответ (8,6) и (-32/13, -126/13)