надо составить уравнение.
если эти числа - прогрессия, то разность между ними должна быть одна и та же.
a1=x-1
a2=2x-1
a3=x^2-5
a2-a1=d a3-a2=d => a2-a1=a3-a2
2x-1-x+1=x^2-5-2x+1
x^2-3x-4=0
x1=4 x2=-1
подставь эти два значения и в одном и в другом случае получится прогрессия