Определить требуемый объём (в мегабайтах) видеопамяти для реализации графического режима...

N = 4 294 967 296 - это режим True Color с использованием альфа-канала
Кол-во бит здесь будет 32
Формула нахождения объема графического файла в битах:
объём = кол-во точек (разрешение) * глубину цвета
Для того, чтобы найти объём в МБ надо результат поделить на 1024*1024*8.
$I = \frac{1024 * 768 * 32}{1024 * 1024 * 8} = \frac{ 2^{10} * 768 * 2^{5} }{ 2^{23} } = \frac{ 2^{15} * 768 }{ 2^{23} } = \frac{768}{ 2^{8} } = \frac{768}{256} = 3$
Ответ: 3 МБ