Координаты векторов
АВ = (4-(-5); 4-(-3); -5-8) = (9;7;-13)
АС = (-4-(-5); 6-(-3); 3-8) = (1;9; -5)
S = 1/2 *|ABxAC| - длина вектора - векторного произведения векторов АВ и АС.
ABxAC = i*((7*(-5)-(-13)*9) – j*(9*(-5)-(-13)*1) + k*(9*9-7*1) = 82*i+32*j+74*k
S = 1/2 *|ABxAC| = 1/2 *sqrt(82^2+32^2+74^2) = sqrt(3306)
Некругло? Но по-моему, решение правильное, проверь цифры в условии.
Кроме того, что такое точка О?