ЕСли примитивно на пальцах.
Стоит устройство - hub к которому тянутся проводки от компьютеров. hub глупый и передаёт всем всю информацию, которую сам получает. Это простейший пример сегмента. То есть внутри его все компьютеры равны. Чем больше компьютеров в сегменте, тем медленнее передача информации.
А вот у провайдера стоит железка (Switch, маршрутизатор) в которую воткнуто много проводков от этих (hub) хабов (сегментов), Switch (маршрутизатор) железка умная и знает куда что пересылать.
В действительности всё несколько сложнее, поскольку маршрутизаторh обычно стоит не только у самого провайдера, но и как разветвитель магистрали. то есть маршрутизатор делит сеть на сегменты.