Известный далеко за пределами Оренбурга, Караван-Сарай был построен в 1837-1846 годах по проекту архитектора А. П. Брюллова на средства башкирского народа. Сооружение состоит из основного корпуса, мечети и минарета.
Во время строительства Караван-Сарай находился на окраине города, сегодня же он расположен недалеко от центра в окружении жилых домов.
Комплекс по своему образу ассоциируется с традиционным летним башкирским аулом. Мечеть, образующая центр композиции, напоминает жилище старейшины – тирмэ (войлочная кибитка или юрта), на которое ориентировался выход из жилищ. Угловые башенки на главном корпусе напоминают легкие летние юрты. Здание имеет и внутренний двор.
В архитектуре Караван-Сарая тесно переплелись различные композиционные приемы и формы турецкого, мавританского и арабского зодчества с башкирскими национальными мотивами.
Это прекрасное здание с превосходным архитектурным памятником посредине – высоким стройным минаретом, обслуживающим небольшую полукаменную-полустеклянную мечеть.
Тридцатипятиметровый минарет обложен белым изразцовым кирпичом. Он опирается на гранитный пьедестал. Мечеть представляет собой восьмиугольное здание простой и в то же время величественной архитектуры.
Мечеть и сегодня остается действующей святыней башкирского народа.