в треугольнике одна сторона равна 8, другая10, а косинус угла заключенного межу ними -0.9...

Можно решать несколькими способами. Наиболее удобный, на мой взгляд, такой:

1. Найдем синус через основное тригонометрическое тождество (так как угол не превышает 180 градусов, то синус будет положительный):

$sin^2a=1-cos^2a=1-0.81=0.19; sina=\sqrt{0.19}$

2. По одной из формул найдем площадь:

$S=\frac{1}{2}*a*b*sina = \frac{1}{2}*8*10*\sqrt{0.19}=40\sqrt{0.19} \approx17.4$

Ответ: 17.4