«Саженях во ста от собора находится церковь Крестовоздвиженская. Когда основана эта церковь, исторических указаний на это нет. По народному же преданию, она есть одна из древнейших церквей в городе».
Известный составитель писцовых книг Афанасий Веков говорил, что церковь сия в 1629 году была деревянной. Каменной же сделана она в 1693 году, в котором 25 сентября и была освящена при царях Иоанне и Петре Алексеевиче.
Крестовоздвиженская церковь была бедной, что доказывает старая церковная опись и приходно-расходные книги.
С поступлением в Крестовоздвиженский приход богатых и благочестивых купцов Посылиных и Киселевых, приехавших на жительство из уезда, церковь с каждым годом стала принимать более и более благолепный вид. По восстановлению, церковь вновь была освящена 23 сентября 1823 года.
12 мая 1837 года, сей храм удостоил своим посещением и осмотром Государь император Александр Николаевич, бывший в то время Наследником Русского престола.
В 20 веке церковь была на половину разобрана, а уцелевшая часть была переоборудована под склад, в котором гораздо позднее разместилось предприятие «Изделия из пластмасс».