Харун ар-Рашид родился в Рейс в 763 г. Он был третьим сыном халифа аль-Махди (775-785) и его вторым сыном от йеменской рабыни аль-Хайзуран, которой халиф даровал свободу и на которой женился в 775 г. Аль-Хайзуран сыграла в судьбе сына немалую роль. Полигамия и безразличие к происхождению халифских жен, обычно рабынь иноземного происхождения, порождали бесконечные интриги - каждая из жен стремилась пристроить на престоле своего сына, и умелая интриганка аль-Хайзуран также существенно поспособствовала карьере Харуна.
Детство Харуна прошло в халифском дворце в окружении евнухов и вольноотпущенников - мавали (так именовались жители покоренных арабами провинций, принявшие ислам), в обстановке придворной роскоши. Первоначальное воспитание Харуна было поручено наставнику из иранской династии Бармакидов - Йахье ибн Халиду. Барма-киды - знаменитый персидский род, из которого вышли многие советники и визиры аббасидских халифов, - играли в политической и культурной жизни мусульманской империи заметную роль. Само слово "бармак" означало сан наследственного жреца в буддийском монастыре около Балха. Члены рода Бармак приняли ислам и благодаря своим способностям возвысились в государстве до высших постов, причем Халид и его сыновья аль-Фадл и Иахья практически управляли государством. Халид из династии Бармакидов был советником халифа аль-Махди, а его сын Иахья был поставлен воспитателем молодого наследника.