Лично я бы сразу забыл про вектора и применил бы сначала теорему косинусов, а потом теорему синусов. Все равно по ходу что-то из этого придется делать. Но раз хотят векторы, пожалуйста.
(m + n)m = m^2 + mn = 2^2 + 2*3*cos(120°) = 4 - 3 = 1; (откуда минус?)
с другой стороны
(m + n)*m = lm + nl*ImI*cos(Ф); где Ф надо найти.
длина вектора m + n находится так
(m + n)^2 = m^2 + n^2 + 2*mn; (вот и теорема косинусов)
Im + nI^2 = m^2 + n^2 - lml*lnl = 2^2 + 3^2 - 2*3 = 7; (откуда минус?)
1 = √7*2*cos(Ф); Ф = arccos(√7/14); как-то так, проверяйте.