Все дело в пигменте, чем он сильнее, а также какого он вида - от этого и зависит окрас водорослей.
Бурыми называют водоросли, у которых главный пигмент - фукоксантин (С40Н56О6), имеющий бурый оттенок. Он гораздо сильнее естественного оттенка хлорофилла (зеленого) и других пигментов водоросли, поэтому перебивает их и придает бурый окрас.
У красных водорослей за окрас отвечают пигменты фикобилинамы (красного и синего цвета) и каротиноиды (оранжево-желтые).
Также существуют золотистые водоросли, которые имеют в роли пигментов ксантофиллы (такие как, например, лютеин) что и придает им такой своеобразный оттенок.