Честно говоря, задача с таким условием нерешаема на практике. Точка, отдаленная от каждой вершины квадрата, будет являться центром пересечения диагоналей данного квадрата. По теореме Пифагора, квадрата со стороной 12 и диагональю 28 быть не может (поскольку 12 - это половина диагонали). Далее все расчеты ломаются, поэтому решить задачу невозможно.