Надо сравнить площадь прямоугольника ABCD и площадь треугольника ABC
Http://festival.1september.ru/articles/583746/