Родился в станице Каменская (сейчас город Каменск-Шахтинский Ростовской области) в семье зажиточного казака. Окончил 4 класса окружного мужского училища, затем учился в реальном, в 1916 году поступил в Каменскую учительскую семинарию. Участвовал в Гражданской войне, в марте 1918 года записавшись добровольцем в Красную армию. В 1920 году вступил в РКП(б). Работал в каменской газете «Красный казак». Переехав в город Бахмут, становится ответственным секретарём газеты «Всероссийская кочегарка». Познакомившись с приехавшими изПетрограда писателями Михаилом Слонимским и Евгением Шварцем, совместно с ними в 1923 годуорганизовывает издание литературно-художественного приложения к газете — журнал «Забой» (первый номер вышел в сентябре 1923 года). В 1925 году, уже будучи опытным редактором, Олейников получает от ЦК ВКП(б) назначение вЛенинград, в газету «Ленинградская правда». Работает в редакции детского журнала «Новый Робинзон», созданногоСамуилом Маршаком.
В 1926—1928 гг. сотрудничает с ленинградскими и московскими журналами, занимается организацией детского радиовещания. В 1928 годуОлейников становится редактором нового «Ежемесячного журнала» для детей («ЁЖ»), в котором регулярно публиковались Корней Чуковский, Борис Житков, Виталий Бианки, Михаил Пришвин, Евгений Шварц, а также поэты группы «ОБЭРИУ» (Даниил Хармс,Александр Введенский, Николай Заболоцкий), к которой примкнул и сам Олейников. Свои произведения в журнале «ЁЖ» он чаще всего публиковал под псевдонимом «Макар Свирепый».
С начала 1937 года Олейников возглавляет издание детского журнала «Сверчок». 3 июля 1937 года был арестован как «участник контрреволюционной троцкистской организации» и 19 ноября 1937 приговорён к расстрелу. Олейников был расстрелян 24 ноября 1937 года вЛенинграде. По одному делу с Олейниковым были расстреляны ленинградские востоковеды, обвинённые в шпионаже, в том числе японистН. А. Невский; поэт был знаком с некоторыми из них. Захоронен наЛевашовской пустоши. Реабилитирован посмертно в 1957 году. Тогда его вдова получила в ЗАГСе справку, что её муж умер «от возвратного тифа 5 мая 1942 года». Эта недостоверная дата вошла во многие биографические справочники и энциклопедии.
В 2015 году стал известен документ, согласно которому Олейников убил своего отца, во время Гражданской войны выдавшего его белым.