я же уже решал вчера это...
znanija.com/task/1784197
Пояснение насчет подстановок:
По формуле двойного угла:
Теперь загоняем все в интеграл
Далее вместо t подставляем тангенс половинного угла (из подстановки) и получаем окончательный ответ.
PS Ответ какой-то не очень красивый... если в условии поменять 3 и 5 местами, то ответ будет намного красивее, т.к. вместо логарифма появится arctg, который очень кстати будет для подстановки ;)
Второй и третий варианты правильные... первый (как и вчера) с ошибкой ;)