Интеграл от 2 до 4 (6*x-8-x²)dx=1,333 (решение простое, это явно не школа, так что решаем сами), поэтому добавляем множитель 1/1,333 для того что бы площадь под f(x) была равна 1. Матожидание M=интеграл от 2 до 4 (x*(6*x-8-x²)/1,3333)dx=3, так что ответ верхний. Более подробно про формулу расчёта матожидания - учебник Вентцель по теории вероятностей.