Определение данных тригонометрических функции в Эвклидовой геометрии (где сумма внутренних углов треугольника равна 180 градусов) применимы только для прямоугольных треугольников, в противном случае, вероятно, нужно переходить к геометрии Лобачевского.
Однако, если у вас есть любой треугольник, сумма внутренних углов которого равна 180 градусам, то, зная величины сторон, по теореме косинусов можно рассчитать внутренние углы, а уже к этим углам применить интересующие вас тригонометрические функции.