Территория, где расположен Старый гостиный двор, стала важным центром московской торговли уже в XV веке, когда там обосновались купцы, ранее торговавшие на территории Кремля[1]. Впервые о гостином дворе упоминает Сигизмунд фон Герберштейн, бывший в Москве в 1517 и 1526 годах: «Недалеко от крепости есть большой, обнесённый стенами дом, называемый двором господ купцов, в котором купцы живут и хранят свои товары»[2]. Каменные корпуса были построены в 1590-х годах и перестроены в 1638—41 годах[3], но с увеличением торговых оборотов гостиный двор снова стал тесен, и в 1661—65 годах его расширили в сторону Варварки[2] (фактически, рядом был возведён ещё один гостиный двор[3]). Строительство проходило под руководством богатого купца Аверкия Кириллова (его палаты сохранились на правом берегу Москва-реки на Берсеневской набережной)[2].
В 1786 году московский главнокомандующий граф Я. А. Брюс докладывал Екатерине II о том, что двор «пришёл в совершенную ветхость и угрожает разрушением и падением». Екатерина согласилась с тем, чтобы «гостиный двор распродать по частям желающим с обязательством покупщиков, чтоб новый выстроен таковым же квадратом». В Москве архитектором С. А. Кариным был составлен проект и послан в Санкт-Петербург, но оттуда в 1789 году прислали другой, «который по Высочайшему Ея Императорского Величества повелению Архитектором Гваренгиемзделан»[2].
Проект Кваренги (которым были спроектированы и торговые ряды с восточной стороны Красной площади) подвергся частичным изменениям в процессе его привязки к сложному рельефу местности[3], кроме того, московские архитекторы С. А. Карин и И. А. Селихов (под руководством М. Ф. Казакова[3]) нестрого следили за соблюдением проекта, и владельцы строили «весьма медленно и неровно: один выводил оба этажа, другой один, кто как хотел; иные разрывши землю, так и оставляли её»[2]. Строительство продолжалось с 1791 года по 1805 год, в результате был возведён корпус двора по Ильинке с заворотами его в переулки, а также часть здания (юго-западный угол) по Варварке[2]. Здание пострадало во время пожара 1812 года[4], но было восстановлено[4] и достроено в 1825—30 годах О. И. Бове
Вид от Биржи на Гостиный двор и Троицкое подворье. XIX век
В 1903 году центральный ризалит по Хрустальному переулку был перестроен в духе неоклассицизма по проекту архитектора С. В. Баркова (по другим данным — К. К. Гиппиуса).
Старый Гостиный двор стал прототипом аналогичных зданий в других городах, но его первоначальный облик нарушился из-за закладки наружных и большинства внутренних аркад владельцами лавок; при этом единая галерея второго этажа оказалась разбитой на отдельные помещения.
В конце 1996—1999 годах были выполнены работы по реконструкции и реставрации в соответствии с Постановлением Правительства Москвы от 26 июля1994 года № 618, в результате чего был серьёзно изменен облик здания. По проекту архитекторов А. Кузьмина, М. Посохина и С. Ткаченко над зданием соорудили массивную мансарду, внутренний двор перекрыли стеклянным куполом, южное крыло надстроили двумя этажами. Галерея утратила вид на собор Василия Блаженного. Купол изменил панораму Китай-города, открывающуюся с Большого Москворецкого моста. По некоторым оценкам, после реконструкции памятник истории превратился в характерный для лужковского периода «муляж».
Во время реконструкции и реставрации проводились крупномасштабные археологические раскопки, было раскрыто и зафиксировано около 1000 разновременных сооружений, собрана коллекция археологических находок, которая выставлена ныне в археологическом музее Старого Гостиного двора. Под сгоревшим деревянным купеческим домом XVII века был обнаружен гигантский кладовый комплекс, содержащий 16 сосудов из драгоценных металлов, более 95 тысяч русских серебряных монет и 335 талеров, отчеканенных на монетных дворах Западной Европы от Пиренеев до Скандинавии. В настоящее время площадь внутреннего двора составляет около 12 тыс. м , общая площадь — 82 тыс. м2. В перспективе планируется строительство гостиницы