Основан в 1869 году как посёлок при станции, введённой в действие на Курско-Харьковско-Азовской железной дороге На месте современного города ещё в 1786 году была основана слобода Харцызская, принадлежавшая генерал-майору И. Д. Иловайскому (название его произошло от слова «харцыз» (проедала, шатун, волочуга, воришка — словарь В. И. Даля) — так в XVI веке называли турки и татары селившихся у южных границ Русского государства беглых крестьян и запорожских казаков, а места их поселений именовали «харцызскими»). В 1883 году была проведена железнодорожная ветка на Макеевский рудник, в 1884 году — на станцию Криничная и Ясиновка (современная Макеевка-Пассажирская), в 1898 году — на макеевский металлургический завод «Унион».
В 1860-х годах вблизи станции начались разработки каменного угля. В 1880-е годы в пристанционном поселке было несколько десятков дворов и трактир. К 1897 году тут насчитывалось 674 жителя, 53 двора. Русских было 486 человек, украинцев — 188. Уроженцами Области Войска Донского являлись 99 человек, других местностей — 575. Выходцами из крестьян были 550 человек, из мещан — 92, из дворян и духовенства — 13 человек.
В 1895 году харцызским обществом Дебальцевского механического завода в Харцызске построен котельно-механический завод. В 1897 году построены мастерские Шлихта (современный машиностроительный завод). В 1910 году котельно-механический завод стал филиалом макеевского металлургического завода, а с 1914 года отдельным предприятием Харцызский трубный завод. С 1914 года механические мастерские объединены в 2 промышленные предприятия — заводы «Фрессе» и «Рено» (в 1920 году объединены в завод «Ремруд», в 1928 году переименован в «Главармлит», сейчас — «Армлит»).
С апреля 1923 года Харцызск стал центром Зуевского горного района Юзовского округа, население посёлка при этом составляло 3065 человек, а в 1926 году уже 5645 человек. В 1929 году образована Харцызская волость, объединившая посёлки Харцызск, Трубное, хутора: Золотарева, Майсаки, Цецюра, Панасенко, Новая Жизнь и другие. В 1931 году население Харцызска составило 8323 человека.
С 1936 года Харцызск получил статус города районного подчинения, в 1940 году в нём проживало уже 13 146 человек. В 1930—1938 годах Харцызский трубный завод назывался заводом «Сталь», тогда же там было налажено производство труб большого диаметра. В 1940 году построен сталепроволочно-канатный завод (сейчас Харцызский канатный завод — «Силур»). С 1930-х годов работают 2 крупных колхоза: «Гранит» и имени В. К. Блюхера.