{ ax + y + z = 1
{ x + ay + z = a
{ x + y + az = a^2
Умножаем 3 уравнение на -1 и складываем со 2 уравнением
{ ax + y + z = 1
{ x + ay + z = a
{ 0x + (a-1)y + (1-a)z = a-a^2 = a(1-a)
При а = 1 3 уравнение тождественно истинно, значит система имеет бесконечное множество решений.
При а =/= 1 делим 3 уравнение на 1-а
{ ax + y + z = 1
{ x + ay + z = a
{ -y + z = a
Подставляем
z = y + a из 3 уравнения в 1 и 2
{ ax + y + y + a = 1
{ x + ay + y + a = a
Упрощаем
{ ax + 2y = 1 - a
{ x + y(1 + a) = 0
Подставляем из 2 уравнения x = -y(1 + a) в 1 уравнение
-ay(1 + a) + 2y = 1 - a
y*(-a^2 - a + 2) = 1 - a
y*(a^2 + a - 2) = a - 1
y*(a - 1)(a + 2) = a - 1
Так мы рассматриваем случай a =/= 1, то разделим на (а - 1)
y(a + 2) = 1
При а = -2 левая часть = 0, а правая = 1, значит, решений нет.