В изображении 512*2048 точек. Умножаем количество точек на глубину цвета в битах и получаем размер изображения в битах. В каждом байте 8 бит, поэтому делим на 8, чтобы получить ответ в байтах. В каждом мегабайте 1024 килобайта, в каждом килобайте 1024 байта, поэтому делим на 1024*1024, чтобы получить ответ в мегабайтах. Ну а с формулой и дано как-нибудь сама, это уже оформление.