Поэтому я так считаю: координаты трех векторов задают уравнение плоскости, которое известно и просто записывается в матричном виде (когда определитель 3х3, составленный из разностей координат, равен нулю). А дальше, когда уравнение плоскости получено, из одной вершины строим компланарные векторы в две другие. Если их модули равны, то надо найти диагональ, на которой лежит четвертая точка, если нет, то диагональ определена вектором с большим модулем - это решает вопрос "кто есть ху".