Музей находится в бывшем доме декабриста В. П. Ивашева. Проект дома разработал отец Ивашева, участник Бородинского сражения, сподвижник А. Суворова и М. Кутузова. Сохранились оригинальные интерьеры рабочего кабинета В.П. Ивашева и комнаты его супруги, француженки Камиллы ле Дантю.