Нет. Они встречаются и в сложных и в простых. В простых он соединяет однородные члены предложения, а в сложных несколько грамматических основ.
Вот,например,простое предложение:Я пошел в школу,а потом гулять.
А вот сложное: Я пошел в школу, а потом я пошел гулять.