В 1895—1901 годах, по проекту польского архитектора И.Гославского. Гаджи Зейналабдин выстроил в центре Баку большой дворец. Все четыре фасада этого величественного особняка и гигантские купола на крыше издалека привлекают внимание. Одна сторона здания смотрела на Барятинскую, другая — на Старую Полицейскую, третья выходила на Меркурьевскую, четвёртая на Горчаковскую улицы. (ныне здесь находится.