Для написания канонического уравнения прямой, нам нужна точка, лежащая на прямой (подойдёт любая из А,В) и направляющий вектор прямой (в данном случае вектор АВ).
Тогда уравнение прямой примет вид:
Чтобы проверить, лежит ли точка М на этой прямой, нужно подставить её координаты в полученное уравнение и проверить, выполняются ли равенства.
Т.к. равенства не выполнены, следовательно, т.М не лежит на прямой АВ.