Считается, что мавзолей построен над могилой одного из представителей династии Караханидов — Шах-Махмуда Бугра Карахана[2]. Мавзолей не сохранился до наших дней в первоначальном виде, в 1906 году он был перестроен и при сохранении конструкционного принципа утратил первоначальное архитектурно-декоративное убранство. Внутри мавзолея сохранилось ступенчатое надгробие[1]. Строительство финансировал ишан Ташкента Сайд Бакханов[2].
Впервые мавзолей был подробно исследован Борисом Денике и описан им в книге «Архитектурный орнамент Средней Азии».[1] В 1982 году мавзолей Карахана был включен в список памятников истории и культуры Казахской ССР республиканского значения и взят под охрану государства[3].
В 2002 году была проведена реставрация мавзолея к 2000-летию города Тараза[2].