График первой функции - окружность с центром в начале координат и радиусом b. График второй функции - прямая.
Система имеет единственное решение тогда, когда графики имеют только одну точку пересечения.
Графики будут иметь только одну общую точку, если последнее уравнение имеет одно решение, т.е. D=0.