Делаем из четырёх точек три вектора (одну соединяем с тремя остальными), находим координаты этих векторов, вычитая координаты начала вектора из координат конца вектора, далее находим смешанное произведение этих векторов (численно равно определителю, строки которого и есть эти вектора в любом порядке) . Если смешанное произведение равно нулю, значит эти вектора (а значит и эти точки) лежат в одной плоскости, если не равно нулю-то не лежат. Это универсальный стандартный способ. - это к номеру 2
Для номера 1. Для перпендикулярности двух ненулевых векторов необходимо и достаточно, чтобы их скалярное произведение равнялось нулю, учитывая данное условие состаляем уравнения
Х(x,y,z) -обозначим так коорд. Х
x-2y+z=0
2x-3y+z=0
Третье уравнение получаем из формулы модуля:
х^2+y^2+z^2=108