Принцип решения:
0. Составляем матрицу коэфициентов А
1. Приводим А к треугольному виду
2. Если матрица сингулярна (есть хоть одна строчка с нулями) - получаем 1-ую степень свободы, если матрица регулярна - получаем один ответ. Если в матрице получается строка вида (0 0 0 0|а) -> значит ответа нет.
В твоей задаче ответы: x4=x4 (назначаем свободным и через него выражаем остальные), х2=х4, х3=2х4+1,х1=3
P.S. Решение зависит от степени формализации: если нужно решать "по книге" - матрица приводится к каноническому виду. Тогда присоединённый вектор решения получит вид ответа. (В данном случае: (3,x4,2x4+1,x4))
Но для правильного ответа достаточно привести матрицу к треугольному виду, заменяя одну из пропорциональных строк сразу на нули (в моём решении -строки 3-4 во втором шаге). Если требуется более подробный ответ по теории - пиши.
Удачи!