Квадрат - это плоская фигура, являющаяся прямоугольником с равными сторонами.
Значит, нужно показать, что либо эти 4 точки не лежат в одной плоскости, либо различие в длине сторон, либо наличие непрямого угла.
Вместо проверки углов можно проверить длину и угол между диагоналями: в квадрате диагонали равны и перпендикулярны.
Сначала выпишем все векторы, которые можно построить на этих точках (без обратных):
AB=(1-(-3);-5-5;5-6)=(4;-10;-1)
AC=(8-(-3);-3-5;-3-6)=(11;-8;-9)
AD=(4-(-3);7-5;-2-6)=(7;2;-8)
BC=(8-1;-3-(-5);-3-5)=(7;2;-8) - параллелен и равен AD
BD=(4-1;7-(-5);-2-5)=(3;12;-7)
CD=(4-8;7-(-3);-2-(-3))=(-4;10;1) - обратный к AB, т.е. параллелен и равен по длине.
Если эти 4 точки составляют квадрат, то им может быть только ABCD.
Проверка на принадлежность одной плоскости не нужна, т.к. мы имеем две пары параллельных и равных отрезков. Расположить их вне одной плоскости невозможно.
Однако выполним проверку.
1. Проверка на то, что точки находятся в одной плоскости: смешанное произведение векторов AB, AC и AD должно быть равно 0.
Смешанное произведение AB(ACxAD):
Смешанное произведение векторов, построенных из одной точки, равно 0, а это значит, что эти 4 точки находятся в одной плоскости.
AB||CD, BC||AD - поэтому ABCD - это параллелограмм.
2. Длины всех сторон можно не проверять, т.к. из равенства векторов следует и равенство длин отрезков. Имеем 2 пары равных отрезков: AB,CD и AC,BD.
Но в квадрате все стороны равны, поэтому нужно сравнить и соседние стороны. Например, AB и AD.
AB=√(4²+(-10)²+(-1)²)=√(16+100+1)=√117
AD=√(7²+2²+(-8)²)=√(49+4+64)=√117
Все стороны равны, значит, ABCD - это ромб.
Проверим длину диагоналей AC и BD:
AC=√(11²+(-8)²+(-9)²)=√(121+64+81)=√266
BD=√(3²+12²+(-7)²)=√(9+144+49)=√202
Диагонали не равны, значит, ABCD не является прямоугольником, т.е. не является квадратом.
Сделаем проверку через углы.
Нужно проверить угол между соседними сторонами.
Если отрезки перпендикулярны, то скалярное произведение векторов, соответствующих этим отрезкам, равно 0.
Проверяем AB и AC:
AB.AD = (4;-10;-1).(7;2;-8) = 4*7+(-10)*2+(-1)(-8) = 28-20+8=16≠0
Стороны не перпендикулярны.
Угол между диагоналями проверять бессмысленно, ибо в ромбе диагонали перпендикулярны:
AC.BD = (11;-8;-9).(3;12;-7) = 11*3+(-8)*12+(-9)(-7) = 33-96+63 = 0
Итак, данные 4 точки не являются квадратом, т.к. являются ромбом с разными диагоналями и непрямым углом между соседними сторонами.