Выпуклый многоугольник - это многоугольник, лежащий по одну сторону от каждой прямой, на которой лежат его грани.
то есть если каждую грань продлить и многоугольник будет выходить хотя бы за одну из таких прямых, то такой многоугольник НЕ является выпуклым