Оба многочлена раскладываются на множители:
x^4+2x^3-x^2-4x-2 = (х⁴-х²-2)+2х(х²-2) = (х²-2)(х²+1)+2х(х²-2)=(х²-2)(х²+2х+1);
x^4+x^3-x^2-2x-2 = (х⁴-х²-2)+х(х²-2) = (х²-2)(х²+1)+х(х²-2)=(х²-2)(х²+х+1)
Отсюда видим, что у них есть общий делитель: (х²-2) - он является наибольшим.