Возводим в квадрат правую и левую части второго уравнения и получаем.
{х+4у=5, ху=1
Из первого уравнения находим Х и подставляем его во второе уравнение
{х=5-4у, (5-4у)у=1
{х=5-4у, -4у^2+5у-1=0
Второе уравнение умножаем на (-1)
4у^2-5у+1=0
у1=(5+корень из (25-16))/8 = (5+3)/8=1
у2=(5-3)/8=2/8=1/4
Полученные значения у1 и у2 подставляем в первое уравнение и получаем х1 и х2
{у1=1, х1=0
{у2=1/4, х2=4