Литературный музей открыт 22 мая 1928 года по инициативе нижегородской общественности к 60-летию писателя при поддержке А.М. Горького. Он стал первым в стране музеем А.М. Горького.Первоначально музей занимал три комнаты в помещении областной библиотеки им. В.И. Ленина. Концепция экспозиции – показ нижегородского литературного «гнезда» в его развитии, что отвечало желанию А.М. Горького создать в Нижнем Новгороде музей писателей-нижегородцев. Тематика – «Жизнь и творчество А.М. Горького», писатели-нижегородцы XVIII-XIX веков, творчество современных писателей Нижегородского края.В 1930-1940 годы, после смерти А.М. Горького, экспозиция строилась по хронологическому принципу и была полностью посвящена творческому пути писателя, также проводились выставки к юбилейным литературным датам.Во время Великой Отечественной войны 1941–1945 годов экспозиция была демонтирована и вывезена в Тоншаевский район Горьковской (ныне Нижегородской) области, в здании музея размещался госпиталь. В июле 1946 года музей вернулся обратно, шесть залов экспозиции были вновь открыты в 1948 году.В 1950-1970 года – экспозиция построена по тематическому принципу с характерной для того времени идеологической эстетикой: залы «Художественное творчество А.М. Горького советских лет», «Роман М. Горького «Мать», «Роман М. Горького «Жизнь Клима Самгина» и другие.Основной фонд составляет 104691 единиц хранения. Ядро фондового собрания – мемориальные горьковские предметы – 14,5 тысяч единиц хранения, в том числе 300 предметов, подаренные самим писателем. В фондах музея собраны также музейные предметы и коллекции, связанные с жизнью и творчеством писателей-нижегородцев и горьковчан, писателей, бывавших в Нижнем Новгороде: М. Горького, П.И. Мельникова (А. Печерского), В.Г. Короленко, Л. Андреева, В.И. Даля, Т.Г. Шевченко, Н.И. Кочина и др.