Своё детство и юность провёл при дворе отца Всеволода Ярославича в Переяславле-Южном. Постоянно возглавлял отцовскую дружину, осуществлял далёкие походы, воевал против половцев.
В 1076 году вместе с Олегом Святославичем участвовал в походе в помощь полякам против чехов, также дважды ходил с отцом и Святополком Изяславичем против Всеслава Полоцкого. Во время второго похода произошло первое использование наёмного войска из половцев для междоусобной войны[6]. На момент смерти Святослава Ярославича (декабрь 1076 года) был смоленским князем.
В 1078 году его отец стал киевским князем, а Владимир Мономах получил Чернигов. В 1080 году отбил набег половцев на черниговские земли, нанёс поражение кочевникам-торкам.
В начале 1080-х подавил восстание вятичей, произведя два похода (две подряд зимы между 1078 и 1084 годами).
В 1093 году после смерти отца, великого князя Всеволода, имел возможность занять киевский престол, но, не желая войны, не препятствовал двоюродному брату Святополку занять престол, сказав: «Если сяду на столе отца своего, то буду воевать со Святополком, так как стол этот был его отца». Сам же остался княжить в Чернигове. Однако, Владимир сохранил свою власть в Ростове и распространил её на Смоленск (1097). Также ему удалось не допустить замены своего сына Мстислава в Новгороде сыном Святополка (1102) и тем самым он нарушил традицию, по которой в Новгороде княжил старший сын киевского князя.