Сквер появился после пожара 1864 года, на площади, образовавшейся при установке памятника Н. М. Карамзину. Первое ограждение было деревянным, сделанным из длинных жердей на крестообразных подставках.
В 1867-1868 годах сквер был обнесен металлической решеткой, выполненной по проекту симбирского архитектора Н. А. Любимова. Чугунная решетка и сегодня украшает сквер.
С самого начала в сквере были посажены кустарники и деревья различных видов, и сейчас это единственное место в городе, где сохранились насаждения 60-80 годов XIX века. В настоящее время здесь произрастает около 300 деревьев и кустарников.