Имеем дело с однородной СЛАУ, у которой кол-во неизвестных больше кол-ва уравнений, значит, имеем нетривиальные решения.
Приведем матрицу к ступенчатому виду:
![\left[\begin{array}{cccc}-4&1&2&1\\7&4&1&0\\1&2&5&0\end{array}\right]](https://tex.z-dn.net/?f=%5Cleft%5B%5Cbegin%7Barray%7D%7Bcccc%7D-4%261%262%261%5C%5C7%264%261%260%5C%5C1%262%265%260%5Cend%7Barray%7D%5Cright%5D "\left[\begin{array}{cccc}-4&1&2&1\\7&4&1&0\\1&2&5&0\end{array}\right]")
Меняем 1 и 3 строки:
![\left[\begin{array}{cccc}1&2&5&0\\7&4&1&0\\-4&1&2&1\end{array}\right]](https://tex.z-dn.net/?f=%5Cleft%5B%5Cbegin%7Barray%7D%7Bcccc%7D1%262%265%260%5C%5C7%264%261%260%5C%5C-4%261%262%261%5Cend%7Barray%7D%5Cright%5D "\left[\begin{array}{cccc}1&2&5&0\\7&4&1&0\\-4&1&2&1\end{array}\right]")
Вычитаем из второй строки первую, умноженную на 7:
![\left[\begin{array}{cccc}1&2&5&0\\0&-10&-34&0\\-4&1&2&1\end{array}\right]](https://tex.z-dn.net/?f=%5Cleft%5B%5Cbegin%7Barray%7D%7Bcccc%7D1%262%265%260%5C%5C0%26-10%26-34%260%5C%5C-4%261%262%261%5Cend%7Barray%7D%5Cright%5D "\left[\begin{array}{cccc}1&2&5&0\\0&-10&-34&0\\-4&1&2&1\end{array}\right]")
Делим на -2 вторую строку и прибавляем к 3 строке первую, умноженную на 4:
![\left[\begin{array}{cccc}1&2&5&0\\0&5&17&0\\0&9&22&1\end{array}\right]](https://tex.z-dn.net/?f=%5Cleft%5B%5Cbegin%7Barray%7D%7Bcccc%7D1%262%265%260%5C%5C0%265%2617%260%5C%5C0%269%2622%261%5Cend%7Barray%7D%5Cright%5D "\left[\begin{array}{cccc}1&2&5&0\\0&5&17&0\\0&9&22&1\end{array}\right]")
Вычитаем из 3 строки вторую:
![\left[\begin{array}{cccc}1&2&5&0\\0&5&17&0\\0&4&5&1\end{array}\right]](https://tex.z-dn.net/?f=%5Cleft%5B%5Cbegin%7Barray%7D%7Bcccc%7D1%262%265%260%5C%5C0%265%2617%260%5C%5C0%264%265%261%5Cend%7Barray%7D%5Cright%5D "\left[\begin{array}{cccc}1&2&5&0\\0&5&17&0\\0&4&5&1\end{array}\right]")
Вычитаем из 2 строки третью:
![\left[\begin{array}{cccc}1&2&5&0\\0&1&12&-1\\0&4&5&1\end{array}\right]](https://tex.z-dn.net/?f=%5Cleft%5B%5Cbegin%7Barray%7D%7Bcccc%7D1%262%265%260%5C%5C0%261%2612%26-1%5C%5C0%264%265%261%5Cend%7Barray%7D%5Cright%5D "\left[\begin{array}{cccc}1&2&5&0\\0&1&12&-1\\0&4&5&1\end{array}\right]")
Вычитаем из 3 строки вторую, умноженную на 4:
![\left[\begin{array}{cccc}1&2&5&0\\0&1&12&-1\\0&0&-43&5\end{array}\right]](https://tex.z-dn.net/?f=%5Cleft%5B%5Cbegin%7Barray%7D%7Bcccc%7D1%262%265%260%5C%5C0%261%2612%26-1%5C%5C0%260%26-43%265%5Cend%7Barray%7D%5Cright%5D "\left[\begin{array}{cccc}1&2&5&0\\0&1&12&-1\\0&0&-43&5\end{array}\right]")
Ранг равен трем, откуда количество свободных переменных равно 4 - 3 = 1. Пусть D - свободная переменная. Тогда
Значит,
![\left[\begin{array}{c}A\\B\\C\\D\end{array}\right] = D\left[\begin{array}{c}\frac{9}{43} \\{-\frac{17}{43}}\\\frac{5}{43}\\1\end{array}\right] = \tilde{D}\left[\begin{array}{c}9\\-17\\5\\43\end{array}\right]](https://tex.z-dn.net/?f=%5Cleft%5B%5Cbegin%7Barray%7D%7Bc%7DA%5C%5CB%5C%5CC%5C%5CD%5Cend%7Barray%7D%5Cright%5D%20%3D%20D%5Cleft%5B%5Cbegin%7Barray%7D%7Bc%7D%5Cfrac%7B9%7D%7B43%7D%20%5C%5C%7B-%5Cfrac%7B17%7D%7B43%7D%7D%5C%5C%5Cfrac%7B5%7D%7B43%7D%5C%5C1%5Cend%7Barray%7D%5Cright%5D%20%3D%20%5Ctilde%7BD%7D%5Cleft%5B%5Cbegin%7Barray%7D%7Bc%7D9%5C%5C-17%5C%5C5%5C%5C43%5Cend%7Barray%7D%5Cright%5D "\left[\begin{array}{c}A\\B\\C\\D\end{array}\right] = D\left[\begin{array}{c}\frac{9}{43} \\{-\frac{17}{43}}\\\frac{5}{43}\\1\end{array}\right] = \tilde{D}\left[\begin{array}{c}9\\-17\\5\\43\end{array}\right]")
Ответ: векторы вида ![\tilde{D}\left[\begin{array}{c}9\\-17\\5\\43\end{array}\right]](https://tex.z-dn.net/?f=%5Ctilde%7BD%7D%5Cleft%5B%5Cbegin%7Barray%7D%7Bc%7D9%5C%5C-17%5C%5C5%5C%5C43%5Cend%7Barray%7D%5Cright%5D "\tilde{D}\left[\begin{array}{c}9\\-17\\5\\43\end{array}\right]")
, при 
.