Нужно параллельно перенести одну из диагоналей к другой, чтобы они имели общую вершину, затем вычислить длины строн полученного треугольника они должны удовлетворять теореме Пифагора.
Либо ввести систему координат с осями параллельными ребрам куба, тогда направляющие вектора диагоналей буду иметь примерно следующий вид (-1, 1, 1) и (1, 1, 0). Из равенства нулю скалярного произведения -1*1+1*1+1*0=-1+1=0 следует перпендикулярность