В крещении Карл был назван Венцеславом, но при помазании святым миром его прежнее имя было заменено именем Карла. Его отец, чешский король Иоанн, очень любил Францию. С шестилетнего возраста Карл воспитывался в Париже и еще ребенком был обручен с французской принцессой. Отец рано стал приучать сына к занятию государственными делами и, возвращаясь в 1331 г. из Италии, оставил там его своим наместником, когда ему было пятнадцать лет. Два года спустя в упорной битве при Сан-Феличе юноша показал храбрость и способность быть хорошим полководцем. В следующем году, увидев невозможность удержать свои завоевания в Италии, Иоанн отозвал сына в Чехию, отдал ему маркграфство Моравское и назначил своим наместником в Богемии. Сам Иоанн редко бывал в Чехии, притом был очень беспечен. В его королевстве творились постоянные беспорядки. Позже Карл вспоминал в своей биографии "Когда я приехал в Богемию, то нашел это королевство в таком разорении, что не осталось ни одного королевского замка, ни одного коронного имения, которые не были бы заложены. Большинство вельмож стали тиранами, потому что не знали страха перед королем, власть и имения которого они разделили между собой". Молодой правитель, искренне любивший свою родину, старался улучшить ее положение.
Хорошее управление финансами дало ему возможность выкупить из залога многие города и земли; он также несколько ослабил жупанов, раздавая лены другим, менее могущественным вельможам. Он вызывал из Италии каменщиков, архитекторов и других мастеров; с их помощью он украсил Прагу прекрасными зданиями и увеличил ее целым кварталом, постаравшись застроить его по образцу виденного им в Париже и в Италии. В 1348 г. Карл основал Пражский университет и обеспечил его весьма значительными доходами с некоторых земель и деревень. Правда, немцы пользовались в университете преимуществами перед чехами, но роль его в развитии национальной культуры все равно была огромна.
Карл сам говорил на пяти языках, писал юридические и исторические сочинения, покровительствовал художникам, поэтам и ученым, оказывал большое уважение Петрарке, Бок-каччо и возбуждал деятельность чешских историков.
Цветущее состояние и богатство Чехии давали ее королю большой вес в имперских делах. В 1346 г. враги Людовика IV провозгласили Карла императором. 26 ноября он короновался в Бонне. Оба противника готовились к войне, но междоусобие было прекращено внезапной смертью Людовика в октябре1347 г. После этого шансы Карла занять престол значительно возросли, однако и теперь корона досталась ему лишь после упорной борьбы с другими претендентами.
Упрочив за собой немецкий престол, Карл в 1355 г. короновался в Риме императорской короной. Возвратившись, он занялся устройством дел в Чехии и Германии. В октябре 1356 г. на съезде в Нюрнберге была принята так называемая Золотая булла, установившая порядок выбора и коронации немецкого короля и дававшая курфюрстам много новых привилегий за счет городов. Этот закон считается едва ли не важнейшим имперским деянием Карла. Он вообще уделял империи и Германии мало внимания, целиком сосредоточившись на приращении могущества своей династии. Здесь его труды были очень успешны.