Пусть n — число вершин многоугольника, вычислим d — число возможных разных диагоналей. Каждая вершина соединена диагоналями со всеми другими вершинами, кроме двух соседних и, естественно, себя самой. Таким образом, из одной вершины можно провести n-3 диагонали; перемножим это на число вершин (n - 3)×n,
однако, мы посчитали каждую диагональ дважды (по разу для каждого конца) — отсюда,
d=(n^2-3n)/2