Рассмотрите предложенный вариант, проверка не проводилась.
Пошаговое объяснение:
решение выложено в виде двух фото, после первого знака * отдельно берутся два интеграла (для переменной "х" и "у") ответы для этих двух отдельных интегралов обведены зелёным и красным цветами. После второго знака * два отдельно взятых интеграла агрегируюся в общий интеграл для ДУ, ответ подчёркнут оранжевым.
В квадратных скобках показана замена (для биномиального и интеграла по частям).