Правильно искать по теореме косинусов:
a2= b2+ c2−2bc ·cos(A)
Где в нашем случае - a=AB, b=CB, c=AC, A=искомый угол C
Следовательно
100=64+36-96cos(A)
0=-96cos(A)
0/96=cos(A)
Cos(A)=0
A(C)=90 градусов
Ответ:C=90 градусов.
Ну или ухитриться и просто подставить в теорему Пифагора все и убедтюиться в том, что треугольник прямоугольный, а значит C=90
C=90 градусов
6^2 + 8^2 = 10^2