Угол между плоскостями это угол между нормалями(нормальными векторами к плоскостям).
нормаль n1(3;-5;1);
нормаль n2(-5;1;3);
ф-угол между плоскостями
cos(ф)=|n1*n2|/(|n1|*|n2|);
cos(ф)=|3*(-5)-5*1+1*3|/(√(3²+5²+1²)*√(5²+1²+3²))=cos(17/35)
ф=arccos(17/35)