Программа не полностью показана, но насколько я понял, в начале просто задаются исходные данные:
-координаты x, y
-индекс (от 0 до 2) для выбора одного из трёх вариантов функции f
Таблицу Excel и мой вариант программы я приложил к решению (смотри вложения внизу).
В таблице вычисляется значение b так же как и в программе. А также вычисляется f и значение x*y (чтобы было понятнее, по какой формуле считала программа). Чтобы формулы нормально читались, я задал имена ячейкам с исходными данными и результатами такие же, как и имена переменных в программе.
Результаты вычислений в нескольких точках я сверил с программой- всё совпадает.
Последняя приложенная картинка- на координатной плоскости тремя разными цветами выделены области на которых применяются три разных формулы расчёта b ( в зависимости от значения x*y ).
Скачать вложение Excel (XLS)