Если вы считаете, что первый ответ не верен, значит в условии идет речь о полной поверхности цилиндра или просто ваш ответ, с которым вы сравниваете неверен.
Если речь идет о полной поверхности, то уравнение выглядит следующим образом:
2*Pi*R^2+2*Pi*R*H=S.
Обычное квадратное уравнение, которое и решается по известным формулам.