Проверь, координаты Б - там должно быть (2;-1)
Иначе получаются координаты с корнями.
1)Находим координаты точки O(xo;yo)-центра окружности
O(( -4+2)/2; (7-1)/2)
O(-1;3)
2)Находим координаты вектора АВ:
AB={2-(-4);-1-7}={2+4;-8}={6;-8}
3)Находим диаметр окружности. Это длина отрезка АВ:
d=|AB|=√(6²+8²)=√(36+64)=√100=10