Докажем, что шариков каждого цвета не меньше 11 штук. Пусть шариков какого-то (например, красного) цвета не больше 10 штук. Значит, можно выбрать из 40 шариков 30 так, чтобы среди оставшихся 10 были все красные, что противоречит условию, так как среди выбранных 30 не будет ни одного красного.
Таким образом, среди 40 шариков хотя бы 11 красных, 11 синих и 11 белых. В этом случае среди 30 любых шариков будут шарики каждого цвета. Поэтому среди оставшихся 7 шариков красных может быть любое количество. Значит, максимальное количество красных шариков - 11+7=18.