из первой строки вычтем 3 и разделим 1ую строку на 2, получаем:
вычитаем из 2ой строки 2 первых, из 3ей - 4 первых, из 4ой - 4 первых:
из 2ой строки вычитаем 4ую:
из 4ой строки вычитаем 2 2ых:
из 3ей строки вычитаем 4ую:
Далее приведём матрицу к верхней треугольной прямым методом Гаусса:
делим 4ую строку на 5, вычитаем дважды из 3ей строки и после меняем эти 2 строки местами, получили нужную форму:
методом обратного Гаусса приводим матрицу к единичной:
получили ответ: