Надеюсь, меня не заблокируете, я прекрасно знаю метод Гаусса.
Перепишем систему, поставив самое простое уравнение первым.
{ 2x1 + x2 - x3 = 0
{ -2x1 + 3x2 + 5x3 = 8
{ -3x1 + 4x2 + x3 = 17
Складываем 1 и 2 уравнения.
Умножаем 1 уравнение на 3, 3 уравнение на 2 и складываем.
{ 2x1 + x2 - x3 = 0
{ 0x1 + 4x2 + 4x3 = 8
{ 0x1 + 11x2 - x3 = 34
2 уравнение делим на 4
{ 2x1 + x2 - x3 = 0
{ 0x1 + x2 + x3 = 2
{ 0x1 + 11x2 - x3 = 34
Умножаем 2 уравнение на -11 и складываем 2 и 3 уравнения
{ 2x1 + x2 - x3 = 0
{ 0x1 + x2 + x3 = 2
{ 0x1 + 0x2 -12x3 = 34 - 22 = 12
Отсюда
{ x3 = -1
{ x2 = 2 - x3 = 2 - (-1) = 3
x1 = (x3 - x2)/2 = (-1 - 3)/2 = -2
Ответ: (-2; 3; -1)
Можно тоже самое сделать в матрицах.
Не обращайте внимание на знаки "_", они для выравнивания.
(-3 _ 4 _ 1 | 17) = ( 2 _ 1 _ -1| _0) = ( 2 _ 1 _ -1| _0) = ( 2 _ 1 _ -1| _0) =
( 2 _ 1 _ -1| _0) = (-2 _ 3 _ 5 | _8) = ( 0 _ 4 _ 4 | _8) = ( 0 _ 1 _ 1 | _2) =
(-2 _ 3 _ 5 | _8) = (-3 _ 4 _ 1 | 17) = ( 0 _11 _ -1| 34) =( 0 _11 _-1| 34) =
( 2 _ 1 _ -1| _0) = ( 2 _ 1 _ -1| _0)
( 0 _ 1 _ 1 | _2) = ( 0 _ 1 _ 1 | _2)
( 0 _ 0 _-12| 12) = ( 0 _ 0 _1| -1)
x3 = -1; x2 + x3 = 2; x2 = 2 - x3 = 2 + 1 = 3; 2x1 + 3 + 1 = 0; x1 = -2
Ответ: (-2; 3; -1)