Вероятность = число " хороших" вариантов/ общее число вариантов.
Общее число вариантов = С(n;2) - число сочетаний из n по два.
Число хороших вариантов :
Количество чисел меньших к =к-1, каждому такому числу в соответствие ставим число большее к , таких чисел n-k, всего хороших вариантов (k-1)*(n-k)
вероятность Р= (k-1)*(n-k)/C(n;2)