Уравнение окружности с центром в точке (3;5)
(х-3)²+(у-5)²=R²
Поэтому надо найти такое R², при котором система уравнений
(х-3)²+(у-5)²=R²
у=7х-6
Имеет только одно решение.
Подставляем у из второго уравнения в первое
(х-3)²+(7х-6-5)²=R²
(х-3)²+(7х-11)²=R²
х²-6х+9+49х²-154х+121=R²
50x²-160x+130-R²=0
Это квадратное уравнение относительно х. Оно имеет одно решение только когда его дискриминант равен 0.
D=160²-4*50*(130-R²)=0
4 (80²-50 (130-R²))=0
6400-50 (130-R²)=0
128-130+R²=0
R²=2