Николай Дмитриевич Зелинский родился 6 февраля 1861 года в уездном городе Тирасполе Херсонской губернии. Родители мальчика рано умерли от туберкулеза (отец – в 1863 г., мать – в 1865 г.), и Николай остался на попечении бабушки Марии Петровны Васильевой. Его первые вкусы, взгляды и душевные качества формировались под благотворным влиянием этой замечательной русской женщины.
Получив начальное образование дома, Николай три года учился в Тираспольском уездном училище. Нужно было думать о дальнейшем образовании, но в Тирасполе своей гимназии не было. Из учебных заведений южных городов славилась гимназия в Одессе. Сюда и поступил учиться Николай. Гимназия эта была привилегированным учебным заведением. Здесь ученики получали общее образование, необходимое для поступления в университет. В гимназии естественным наукам уделялось мало внимания. Химию проходили только как один из разделов физики.
Николай Зелинский подолгу засиживался в физическом кабинете, ставя увлекательные опыты. Там же раньше работал известный химик Д. И. Менделеев.
Важным моментом в выборе жизненного пути было для будущего химика посещение лекций знаменитого русского физиолога И.М. Сеченова, которые тот читал в большой химической аудитории университета. На первую лекцию «О кровообращении в организме человека» Зелинский пришел вместе с бабушкой. Впоследствии он писал о том огромном впечатлении, которое на него произвела совершенно новая область знаний, открывших понимание закономерностей живой природы. «Ряд лекций, которые мне удалось послушать, - вспоминал Н.Д. Зелинский, - оставил во мне неизгладимый след и послужил основанием к тому, что я твердо остановил свой выбор на естественных науках». Спустя два десятилетия, уже в стенах Московского университета, Зелинского и И.М. Сеченова связала крепкая дружба.
В 1880 году Николай Зелинский оканчивает гимназию и поступает на естественное отделение физико-математического факультета Новороссийского (ныне Одесского) университета. Это высшее учебное заведение славилось своими демократическими традициями. В его стенах работали крупнейшие русские ученые: И.М. Сеченов, И.И. Мечников, Н.Н. Соколов, В.В. Марковников, П.Г. Меликишвили, А.О. Ковалевский.
Став студентом, Зелинский оказывается в гуще студенческих волнений. Весной 1881 года бывший студент Новороссийского университета Андрей Желябов организовал покушение на царя Александра II. По отношению к студентам университета сразу же были предприняты репрессивные меры. Их арестовывали по всякому ничтожному поводу, исключали из университета, высылали из Одессы или сажали в тюрьмы. В знак протеста против произвола царских властей два прогрессивных профессора И.И. Мечников и А.С. Постников подали прошение ректору об отставке. Оно было тут же удовлетворено. Тогда студенты устроили демонстрацию протеста против отставки любимых профессоров. Н.Д. Зелинский вместе с двумя своими товарищами передал ректору студенческую петицию с резким протестом против произвола. Петиция осталась без ответа, а трем делегатам пригрозили исключением из университета. Однако ученый совет решил не усугублять инцидент, и все подписавшие петицию были допущены к занятиям.
Из всех предметов, которыми на первом курсе занимался Н.Д. Зелинский, больше всего его заинтересовала химия. Кафедра химии была основана русским ученым Н.Н. Соколовым. В годы учебы Зелинского на кафедре работали Н.Н. Соколов и А.А. Вериго, а кроме них плеяда талантливых химиков, преданных науке.
В 1883 году в Одессе состоялся VII съезд русских естествоиспытателей и врачей – важнейший научный форум того времени. Среди делегатов находился А.М. Бутлеров.
Н.Д. Зелинский присутствовал на съезде как делегат от студентов. Значительное место в работе съезда заняли доклады одесских химиков. А.М. Бутлеров дал высокую оценку их работам с точки зрения новейших достижений органической химии. Выступление Бутлерова произвело на Зелинского неизгладимое впечатление. Через много лет по поводу награждения его большой премией им. А.М. Бутлерова в 1924 году он писал профессору В.Е. Тищенко: «Не имея счастья быть непосредственным учеником Бутлерова, считаю себя духовно с ним связанным. Вспоминаю и то мое настроение и внимание, с которым я слушал, будучи студентом третьего курса, доклады Александра Михайловича на съезде естествоиспытателей в Одессе в 1883 году и как был рад тому случаю, когда Александр Михайлович обратился ко мне с просьбой прогуляться с ним по городу и указать, где почта и телеграф».
После съезда на кафедре химии царило радостное воодушевление. Строились планы новых, еще более интересных исследований. Зелинский не мог остаться в стороне от этой кипучей деятельности.