Количество пикселей на экране 800*600 = 480000 штук.
Каждый пиксель кодируются 16 битами, то есть 2 байтами.
Соответственно, памяти нужно
480000*2 = 960000 байт = 960000/1024 = 937,5 Кбайт
То есть видеокарты на 1 Мбайт хватит.
Остаётся добавить, что 16-битный цвет - это 65536 оттенков.
Эта палитра называется HiColor.
В этом режиме, в формате RGB, отводится 5 бит для канала R (Red, красный), 6 бит для канала G (Green, зеленый) и 5 бит для канала B (Blue, синий).