Нарисуй квадрат АВСD. Это будет выпуклый многоугольник. Теперь внутри квадрата поставь точку E. Сотри сторону AB и проведи 2 отрезка AE и BE. У тебя получится многоугольник - он вогнутый.
Выпуклый многоугольник отличается тем, что если через одну из его сторон провести прямую, то ВСЕ оставшиеся (не лежащие на этой прямой) вершины будут находиться по одну сторону от этой прямой.