Абай Кунанбайулы родился в Чингизских междугорьях Семипалатинского уезда Сибирской губернии (с 1854 года Семипалатинская область) (по нынешнему административному делению в Абайском районе Восточно-Казахстанской области) в семье крупного бая Кунанбая Оскенбаева (Ускенбаева) рода Тобыкты из казахского племени Аргын. Семья Абая принадлежала к местной знати; дед (Оскенбай) и прадед (Иргизбай) главенствовали в своём роду в качестве правителей и биев.
Начатое в детстве домашнее обучение у муллы было продолжено в медресе у муллы Ахмет-Ризы в Семипалатинске, где преподавали арабский, персидский и другие восточные языки. Одновременно посещал русскую школу. К концу пятилетней учёбы начинает писать стихи, сначала приписывая их авторство своему другу Кокпаю Джантасову. С 13 лет отец Кунанбай начинает приучать Абая к деятельности главы рода. В возрасте 28 лет Абай отходит от неё, целиком занявшись самообразованием, но только к 40 годам создаёт свои первые взрослые стихотворения. Значительным событием для Абая явилось его общение с политическими ссыльными Е. П. Михаэлисом, Н. Долгополовым, С. Гроссом.
На формирование мировоззрения Абая оказали влияние поэты и ученые Востока, придерживавшиеся гуманистических идей (Фирдоуси, Алишер Навои, Низами, Физули, Ибн Сина и другие), а также произведения русских классиков, а через них и европейская литература вообще. Он переводил Крылова, Лермонтова, Пушкина, Гёте и Байрона.
Характерна история стихотворения «Қараңғы түнде тау қалғып» ("Горы дремлют в тёмной ночи"), ставшего народной песней. Гёте написал «Wanderers Nachtlied» ("Ночную песню странника"), Лермонтов переложил её на русский язык ("Горные вершины спят во тьме ночной..."), а спустя ещё полвека Абай Кунанбаев передал её содержание на казахском языке.
Абай Кунанбаев способствовал распространению русской и европейской культуры среди казахов. Впоследствии его примеру последовал Турар Рыскулов.
Некоторое время Абай работал волостным управителем.