По теореме косинусов квадрат любой стороны треугольника равен сумме квадратов двух других сторон минус удвоенное произведение этих сторон на косинус угла между ними:
10^2=11^2+12^2-2×11×12×cosa
11^2=10^2+12^2-2×10×12×cosb
12^2=10^2+11^2-2×10×11×cosc
Отсюда:
cosa=(11^2+12^2-10^2)/2×11×12
cosb=(12^2+10^2-11^2)/2×10×12
cosc=(10^2+11^2-12^2)/2×10×11
Осталось только вычислить и взять обратную функцию arccos