З малих літ Ярослав був намісником батька, князя київського Володимира Великого, в Ростові, а після смерті брата Вишеслава став князювати у Новгороді. Саме це місто і стало його воєнною силою і підтримкою протягом усього його правління.
Після смерті батька 15 липня 1015 року Ярослав розпочав війну з братом Святополком, яка не припинялася чотири роки. 1019 року Ярослав з новгородською і варязькою дружинами остаточно розбиває брата, після чого проголошує себе правителем Русі.
Проте одноосібним правителем Ярослав став лише після смерті у 1036 році брата Мстислава, якому підпорядковувався Чернігів і лівобережні землі, і якого він не міг перемогти.
Ще одним кроком Ярослава до одноосібного правління стало ув’язнення брата Судислава, який міг би зазіхнути на владу.
Втім, і після ліквідації загрози владарюванню з боку членів родини, правління нового князя не було спокійним:
у 1018 році він програв битву з польським військом на Бузі;