Почти двойником церкви Петра и Павла XII века была церковь Иоанна Богослова, построенная несколькими десятилетиями позже. О ее строителе князе Романе Ростиславиче в летописи сообщается, что он «созда церковь камену святаго Иоана, и украсив ю всяким строеньемь церковным, и иконы златом и хиниптом (финифтью) украшены». Церковь была с трех сторон окружена галереями, два небольших восточных придела завершались главками.
Полуразрушенный во второй половине XVII века, храм дважды, в 1763 и 1786 годах, был «обновлен»: изменены фасады, переложены своды, сделана новая глава. У западной стены церкви в 1827 году были выстроены обширный придел во имя князя Андрея Смоленского и колокольня. Они были взорваны немецкими оккупантами в 1943 году при отступлении.
Нижний ярус стенописи церкви рассказывает о встрече Авраамия Ростовского с Иоанном Богословом. Авраамий – реальный человек, он упоминается в документах своего времени, но его жизнеописание переплетено с вымыслом.
Легенда говорит, будучи ростовским монахом, он мечтал сокрушить каменного Велеса. Он долго думал, но не знал, как ему это сделать. И встретил он старца, и посоветовал ему старец идти в Царьград, в дом Иоанна Богослова. Авраамий расстроился, но решил идти. И старец пообещал ему, что бог сократит его путь к цели.
Но не успел Авраамий перейти реку Ишню, как встретил человека. И рассказал Авраамий человеку, куда и зачем он идет. И тогда тот человек дал ему жезл и исчез.
И Авраамий разрушил идола одним ударом жезла, ведь человек, которого он повстречал, был сам Иоанн Богослов.