В 1886 году председателем еврейской общины меценат Л. С. Поляковым был приобретён участок земли в Спасоглинищевском переулке, где было возведено здание Хоральной синагоги. Строительство велось с 1887 по 1891 год по проекту архитекторов С. К. Родионова и С. С. Эйбушитца. В 1906 году открыта для богослужений.
Позднее, по проекту архитектора Р. И. Клейна, здание было перестроено. Именно Клейн, проходивший в 1884 году стажировку у французского архитектора Ш. Гарнье решил обратиться к ретроспективизму. Имея опыт свободной стилизации из любых исторических эпох (ампир в кинотеатре «Колизей», русский терем в Средних торговых рядах, шинуазри в чайном магазине на Мясницкой, эллинизм в Музее изящных искусств), Клейн наполнил интерьер синагоги различными историческими аллюзиями и веяниями.
Н южной стене есть мозаичное изображение ливанских кедров, создавая восточный оттенок и напоминая о ныне разрушенном храме Соломона, одним из строительных материалов для которого как раз и послужил ливанский кедр. Кроме того, в Ветхом Завете (например, «Песнь песней») это дерево неоднократно выступает синонимом красоты. Его мозаичный образ также можно истолковывать как Древо жизни, плоды которого даруют мудрость, а под его сенью обитают праведники.
Интерьер синагоги также содержит отголоски западноевропейского религиозного зодчества, которые когда-то были культурно восприняты местными иудейскими. Например, оборудованы пюпитрами для молитвенников скамьи для молящихся, присущие для католических церквей и протестантских храмов. В то время как устройство балконов-галерей для женщин свидетельствует о традиционном разделении мужской и женской половины. Арки колонн несут на себе отпечаток итальянского и испанского влияний. Интересно, что из трёх архитекторов, внёсшие свой вклад в постройку синагоги двое не являлись по вероисповеданию иудеями, поскольку С. К. Родионов был потомком старинной русской дворянской семьи, а Р. И. Клейн – происходил из числа московских немцев.
В советское время синагога продолжала работать. В 1948 году, во время своего визита в Москву, синагогу несколько раз посещала и молилась ложе женской части молельного зала посол Израиля в СССР и будущий премьер-министр Израиля Г. Меир (1898–1978), о чём есть мемориальная табличка.
В феврале 2001 года в синагоге была начата реконструкция, в рамках которой восстановили главный серебристый купол, увенчанный звездой Давида, который снесён в 1888 году. И уже в мае 2001 года прошла торжественная церемония, приуроченная к воссоздания исторического облика здания. Синагога содержит четыре молельных зала, бассейн для ритуальных омовений (миква), магазин иудаистики и кошерной еды, а также ресторан.
В настоящее время синагога находится в ведении местной религиозной организации ортодоксального иудаизма «Московская еврейская религиозная община» (МРООИ МЕРО).