Музей открыт в 1966 году в здании госпиталя, построенного в 1812 году на средства адмирала Ф. Ф. Ушакова.
В настоящее время в музее работает 8 залов, в фондах – более 5 тысяч экспонатов. Уникальным экспонатом археологической коллекции является древнерусский меч, изготовленный на рубеже Х–ХI веков.
В отделе дореволюционной истории можно познакомиться с историей уездного города, с судьбами Алены Темниковской и декабристов братьев Веденяпиных. Уникальные материалы представлены в зале адмирала Ф. Ф. Ушакова. В отделе современной истории демонстрируются материалы о просветителе мордовского народа З. Ф. Дорофееве, хирурге А. И. Рудявском.