Укажите функцию которая удовлетворяет уравнению y"+xy`+y=xcosx

Обратим внимание, что справа стоит xy' а слева xcos(x). Чтобы избавиться от этих проблемных членов, представим

$y = u + \sin x$

Тогда

$(u'' - \sin x) + x(u'+\cos x) + u + \sin x = x\cos x\\ u'' + xu' + u = 0\\$

Фактически, мы угадали частное решение. Теперь найдем общее решение однородного уравнения. На самом деле нет, не найдем, просто найдем частное, но нам же задача ставится только функцию подобрать. Сделаем замену p = x^2, тогда

$p = x^2\\ dp = 2xdx\\ u' = du/dx = 2x(du/dp) = 2\sqrt{p}u`\\ u'' = du'/dx = 2\sqrt{p}(du'/dp) = 2\sqrt{p}(p^{-1/2}u` + 2\sqrt{p}u``) = 2u`+4pu``\\\\$

Где обратный штрих означает производную по p. Подставим все и получим
$4pu``+2pu`+2u`+u = 0\\ 2u`+u + 2p(2u`+u)` = 0$

Частным решением последнего уравнения будет
$2u`+u = 0\\ u = \exp(-p/2) = \exp(-x^2/2)\\\\ y = u+\sin x = \exp(-x^2/2)+\sin x$