Выражаем y в первом:
y = 2 + x^2;
Подставляем вместо х во втором:
2x + 3 ((2 + x^2) / 6) = 17;
2x + (2 + x^2) / 2 = 17 (избавляемся от дроби)
4х + 2 + х^2 = 34;
х^2 + 4х - 32;
Находишь дискриминант и корни (D = b^2 - 4*a*c; x = (-b +- корень дискриминанта) / 2a