Мордовский республиканский музей изобразительных искусств основан как Мордовская республиканская картинная галерея имени Ф. В. Сычкова 10го января 1960 года.
В 1978 году галерея реорганизована в музей изобразительных искусств, которому в 1995 году присвоено имя С. Д. Эрьзи.
В музее собраны произведения Эрьзи, а также коллекции работ народного художника Мордовии, заслуженного деятеля искусств РСФСР Ф. В. Сычкова и академика портретной живописи И. К. Макарова.
Коллекция музея насчитывает 15 тысяч единиц хранения произведений всех основных видов искусства: живописи, графики, скульптуры. Экспонируются также коллекции произведений русского искусства XVIII–XIX столетий, современного отечественного, народного и декоративно-прикладного искусства мордвы.
В 2002 году музей изобразительных искусств имени С. Д. Эрьзи был отнесен Правительством РМ к числу особо ценных объектов культурного наследия мордовского народа. В музее два филиала: Дом-музей С. Д. Эрьзи в с. Баеве Ардатовского района и мемориальный Дом-музей Ф. В. Сычкова в с. Кочелаеве Ковылкинского района.
За свою работу музей неоднократно удостаивался всевозможных наград, дважды являлся лауреатом Государственной премии РМ (1999 и 2004 гг.). Учитывая социальную значимость Музея, в 2002 году Правительством РМ он был отнесен к числу особо ценных объектов культурного наследия народа, проживающего на территории Республики Мордовия.