Автор многих научных трудов, эксперт Редакционных комиссий по подготовке реформы 1861 года и разрешению крестьянского вопроса.
На посту министра финансов Бунге продолжил реформирование податной системы в новом для России направлении – облегчение различных платежей с крестьян и повышение старых и введение новых налогов для имущих классов общества (повышение поземельного налога и налога с городских недвижимостей, введение налога с наследств и с денежных капиталов в размере 5% с дохода) .
Заслуга его заключалась не только в отмене подушной подати, но и в указании пути, которому должно следовать финансовое законодательство – установление подоходного налога. Изменения, вносимые в систему обложения, особенно введение новых промысловых налогов, потребовали учреждения в 1885 году податной инспекции, которая сразу же окупила расходы на свое содержание.
При Николае Бунге началась подготовка денежной реформы – с осени 1884 года в Госбанке приступили к накоплению золота из поступлений в уплату таможенных пошлин и за счет внешних займов. Невыгодные условия этих займов, неудачная попытка сокращения количества кредитных билетов, находящихся в обращении, а также продолжающиеся дефициты бюджета и обесценивание рубля по отношению к золоту – все это явилось мотивом грубых нападок на Николая Бунге в печати (особенно этим отличались “Московские ведомости”).