При растровом кодировании изображение разбивается на множество точек -растров. Каждая кодируется своим цветом, яркостью. То есть такое изображение более яркое, многоцветное. Но качество его портится при увеличение, уменьшение и других операциях. И оно занимает много места в памяти.
При векторном кодирование рисунок разбивается на множество геометрических фигур. И кодируется их координатами. Оно четкое, не меняется качество, но выглядит не так художественно.