Кто и когда основал город неизвестно, выгодное торговое положение города всегда привлекало к нему завоевателей. В 115 году до н. э. город захвачен Митридатом Понтийским. В более поздние времена им владели сарматы, гунны, хазары и печенеги.
В 10 веке Азовом владеет князь Владимир, он передает его вместе с Тмутараканью в удел своему сыну Мстиславу. В 1067 году город захвачен половцами, утверждается название Азов. В 13 веке Азов находится под властью генуэзцев. В 1395 году Тамерлан уничтожает город, но через пять лет Азов восстанавливают