В 3-мерных построениях малейшие ошибки искажают всю картину.
В тексте одно (ответ 3,1623), на бумаге - другое. (ответ4,899).
На бумаге, видимо, правильно.
Как бы вы ни решали, наука одна и та же, и элементы вычисления те же.
Но векторное исчисление может не использовать абсолютные координаты, и всё решается в относительных соотношениях, а если размеры объектов небольшие, мы не будем оперировать большими числами, которые могли бы возникнуть если центр координат сильно удален от объекта при расчете в абсолютных координатах.
Векторные вычисления по сути есть вычисления матричные. Векторное произведение векторов дает вектор, перпендикулярных обоим заданным векторам. Это позволяет чисто формально выполнить умножение, не задумываясь об их относительном расположении.
Я бы рекомендовала вначале хорошо усвоить все операции с матрицами 3х3 и 4х4, чтобы иметь надежный инструмент для вычислений, и запрограммировать это в программе Excel.
Потом разобраться какими (несколькими) видами уравнений можно задавать векторы, прямые и плоскости, и как это задается в матричном виде. Как можно векторными и матричными операциями решать задачи о перпендикулярах и пересечениях прямых, прямой и плоскости, двух плоскостей.
По сути плоскость задается обычными тремя точками или тремя точками на осях или двумя параллельными прямыми или векторами или пересекающимися прямыми. Все это можно сделать как на языке обычных систем уравнений, так и на языке матриц.
Рекомендую найти в интернете старинные учебники Мусхелишвили, где всё систематически и подробно излагается.
Сейчас, когда есть компьютеры, нет проблем за несколько секунд выполнить любую операцию, но интереснее всего поразмышлять над её смыслом, над тем, насколько это математически просто и красиво и в геометрическом и в матричном виде.