Своим появлением синагога обязана царю-реформатору Александру Второму, который позволил евреям, прежде всего купцам 1-й гильдии, жить и работать вне черты оседлости, в том числе и в столичных городах.
Территория в Спасоглинищевском переулке была выбрана Московской общиной не случайно: неподалеку, в Глебовском подворье в Зарядье сложилось то, что в московском обиходе называлось «еврейским гетто». Закладка Спасоглинищевского Еврейского молитвенного дома состоялась 28 мая 1887 года: в восточную стену здания была вмонтирована каменная капсула с закладной грамотой.
Советская власть закрыла синагогу в августе 1923 года, часть ее владений передала «Текстильстрою», в 1960 — еще часть отдала под резервную шахту метрополитена.
И тем не менее, Московская Хоральная синагога продолжала жить — то уходя в подполье, то возвращаясь из него. В семидесятые и восьмидесятые годы улица Архипова стала местом встречи отказников и слушателей подпольных иешив (религиозных учебных заведений). В девяностые, на Великие праздники, в синагогу стало не пробиться: для московских евреев старая синагога в Спасоглинищевском стала действительно местом собрания.