Чтобы найти точки экстремума функции, нужно взять от нее производную и приравнять ее нулю.
у'=(х^2)' · (е^(-2х)) + (е^(-2х))' · х^2= 2х·е^(-2х) -2·е^(-2х)·х^2=0.
На 2е^(-2х) можно сократить, т.к. при любом значении х оно не равно нулю. Останется х-х^2=0. Х=0, х=1.
У(0)=0.
У(1)=1/е^2.