Магжан Жумабаев родился и вырос в зажиточной многодетной казахской семье. Его отец Бекен, предки Жумабай-хаджи, Шонай, Утеген, Утемис — известные, знатные люди из племени атыгай. Бекен от своей первой жены — узбечки Гульсум — имел семерых мальчиков и двух девочек: Мусилима, Кахармана, Магжана, Мухаметжана, Салтая, Галижана, Сабыржана, Гуляндан, Гульбарам. Благодаря заботе отца все дети получили необходимое начальное образование, тогда как не каждый родитель мог позволить такую роскошь[1].
1905—1910 гг. — учёба в медресе Петропавловска[2], где преподавали арабский, фарси, турецкий языки.
1910—1911 гг. — учёба в медресе «Галия» в Уфе, среди наставников — классик татарской литературы Галимджан Ибрагимов.
В 1912 году в Казани выходит его первый поэтический сборник «Шолпан» арабским шрифтом на казахском языке. Он получает известность среди казахской интеллигенции.
1913—1916 гг. — учёба в Омской учительской семинарии, где учится с Сакеном Сейфуллиным, заканчивает семинарию с золотой медалью.
Большое участие в его судьбе приняли академик Григорий Николаевич Потанин, крупнейший поэт и учёный Мыржакип Дулатов и директор семинарии Александр Никитич Сидельников. Г. Н. Потанин после первых встреч с Магжаном предсказал, что юноша в будущем станет вторым Чоканом Валихановым. Предсказание великого ученого сбылось. Магжан Жумабаев впоследствии стал крупнейшим тюркологом, историком, лингвистом, педагогом в духе русской классической школы, автором учебников по казахскому языку и литературе, книги «Педагогика».
В 1917 году на Втором всекиргизском съезде в Оренбурге избран с Ахметом Байтурсыновым в комиссию по составлению школьных учебников.
В начале 1918 года поэт был арестован представителями партии «Уш жуз» и около 7 месяцев просидел в тюрьме Омска. Здесь им написаны полные грусти и страдания стихотворения: «Жан-жарым-ды бір суйеін тусімде» («Поцелую любимую во сне»), посвященную молодой жене (Магжан перед окончанием семинарии женился на внучатой племяннице Чокана Валиханова красавице Зейнеп, которая умерла при родах).
В 1918 году открывает в Омске и Петропавловске курсы казахских учителей и становится их директором.
В 1922 году приглашен председателем Совнаркома Туркестанского края Тураром Рыскуловым преподавать в Казахско-кыргызском институте просвещения в Ташкенте. Активно сотрудничает в газетах и журналах («Акжол», «Сана», «Шолпан» и др.), публикует множество стихов и поэм, а также ряд исследовательских литературных работ. Выпускает второй сборник стихов и поэм в Ташкенте и издаёт в Оренбурге фундаментальный научный труд «Педагогика».
В 1923 году по приглашению наркома просвещения РСФСР Анатолия Луначарского преподает восточные языки в Коммунистическом университете трудящихся Востока.
Одновременно в 1923-26 годах учится в Московском литературно-художественном институте, возглавляемом В. Брюсовым. В Москве переводит на казахский произведения Лермонтова, Кольцова, Бальмонта, Мережковского, Вс. Иванова, Мамина-Сибиряка, Горького, Блока, а также стихи и поэмы Гете, Гейне и др. зарубежных поэтов. «Его называли казахским Пушкиным, сравнивали с Байроном и Шекспиром, говорили, что внешне он чем-то, даже, похож на Сергея Есенина — то ли волнами вьющихся волос, только не русых, а черных, как смоль, то ли открытой, как североказахстанская степь, и распахнутой навстречу самой жизни искренностью в глазах, только не синих и озорных, а темных, как степная ночь, и кажется, чуть подёрнутых дымкой печали, что по утрам таяла над войлоком юрт его родного аула, то ли по-есенински пронзительными до слез, полными глубочайшего лиризма стихами, музыка которых понятна душе» (В. Шестериков).
В 1927 году, завершив учёбу, возвращается в Казахстан, работает учителем.