Родился 30 мая 1862 года в Шемахе в бедной семье мелкого торговца. «Сабир» («терпеливый») — один из многочисленных псевдонимов поэта. Это имя и закрепилось за поэтом, хотя у него были и другие псевдонимы.
Начальное образование Сабир получил в духовной школе, но в 1874 году поступил в только что открытую известным просветителем, поэтом-сатириком С. А. Ширвани школу нового типа, где, в отличие от традиционных школ, преподавались общеобразовательные предметы, азербайджанский и русский языки. Учёба Сабира в этой школе и особенно знакомство с Ширвани сыграли в жизни будущего поэта, в формировании его взглядов большую роль. Сеид Азим Ширвани обратил внимание на незаурядные способности мальчика и руководил его первыми поэтическими опытами. Своё первое стихотворение Сабир сочинил в восемь лет. Ширвани продолжал помогать ему и позднее, когда Сабир по настоянию отца вынужден был бросить школу, в которой он успел проучиться всего два года. Отец Сабира заставил юношу работать в лавке, но это занятие крайне тяготило его, и все своё свободное время он отдавал самостоятельной учёбе и любимой поэзии.и т.д.