Подставим y = -5x во второе уравнение.
-5x = mx - 3
Замечаем, что данное уравнение является линейным относительно x. Приводим его к стандартному виду.
mx + 5x = 3
x(m+5) = 3
а)Если уравнение полученное не имеет решений, то и вся система не имеет решений(это очевидно).
Когда линейное уравнение не имеет решений? Очевидно, когда
m + 5 = 0(справа стоит 3)
m = -5
б)Соответственно при всех остальных m система имеет единственное решение