Московская соборная мечеть — это не только самая старая, но и самая вместительная мечеть в Москве. Она признана классическим образцом культовой архитектуры татарского народа.
В декабре 1903 года проект будущей мечети получил одобрение от московского генерал-губернатора — великого князя Сергея Александровича. Инициаторами строительства выступили двое представителей купеческого сословия: мещанин С. Бакиров и касимовский купец Х. Акбулатов. Финансирование взял на себя татарский купец Салех Юсупович Ерзин.
В 1904 году авторитетный журнал «Зодчий» (№ 32) в своей хроникальной заметке сообщил: мусульманская община Москвы приступила к возведению второй мечети, приобретя для этого земельный участок за 35 тысяч рублей.
27 ноября 1904 года первый имам новой мечети Бадриддин хазрат Алимов обратился к городским властям с прошением разрешить проведение богослужений. Вскоре согласие было получено.
Проект культового здания, рассчитанного на две тысячи человек (с учётом хор), разработал архитектор Николай Алексеевич Жуков.
В годы советской власти мечеть, в отличие от многих других храмов, избежала закрытия. Вплоть до 1990-х годов она оставалась единственной действующей мечетью в Москве.
С 1996 года на территории мечети, в отдельно стоящем здании, разместились Совет муфтиев России и резиденция его председателя — шейха Равиля Исмагиловича Гайнутдина.
В сентябре 2011 года историческое здание мечети было полностью демонтировано с применением специальной техники. После этого развернулась масштабная реконструкция. После завершения всех работ высота двух минаретов обновлённой мечети достигла 75 метров.