Саргон был выходцем из народных низов, считали, что он был приёмным сыном водоноса и состоял садовником и чашеносцем у кишского царя Ур-Забабы.
Поздняя аккадская поэма, известная под названием «Легенда о Саргоне», сообщает, что родиной его был Азупирану («Шафрановый городок», или «Городок крокусов») на Евфрате. Точное местонахождение его неизвестно, но предполагается, что он располагался где-то в среднем течении этой реки (в совр. Сирии). Во всяком случае, Саргон, судя по его имени, был восточным семитом, а возвысился он в Кише, на севере Шумера.
Овладев, правдами и неправдами, царским троном в Кише, Саргон сумел захватить сначала Верхнюю Месопотамию – «до Верхнего (Средиземного) моря», а затем «обратил свои взоры» на юг – на Нижнюю Месопотамию. Но здесь его честолюбивым устремлениям попытался помешать весьма могущественный противник – Лугальзагеси, царь Уммы и завоеватель большинства городов Шумера.