Если векторы а+2b и 5а-4b взаимно перпендикулярны, то их скалярное произведение равно 0.
(a + 2b)(5a - 4b) = 0
5a^2 - 4ab + 10ab - 8b^2 = 0
5 + 6ab - 8 = 0
6ab = 3
ab = 1/2
IaI*IbI*cosa = 1/2
cos a = 1/2
Значит, угол между векторами а и b равен 60 градусов.
всёёё