Перенесем всё в левую часть: х2+(р-1)х-2р=0.Получили квадратное уравнение.
по теореме Виета имеем, что х1*х2=-2р, х1+х2=-(р-1).Возведем в квадрат последнее уравнение. (х1+х2)^2=(р-1)^2
х1^2+2*х1*х2+х2^2=р^2+2р+1
х1^2+х2^2=р^2-2р+1-2*х1*х2
х1^2+х2^2=р^2-2р+1-2*(-2р)
х1^2+х2^2=р^2+2р+1
р^2+2р+1=9
р^2+2р-8=0.Это квадратное уравнение.Решая которое получим, что р1=-4, р2=2.
Аналогично решаются остальные буквы.