Вместо старого каменного храма 1759 года в крепости на горе (построенного на месте деревянной церкви, ивестной с конца XVI века) построен однокупольный Успенский собор в камне в начале ХIХ века на месте каменной Пятницкой церкви постройки 1775 - 1822 года. Колокольня со шпилем построена в 1852-1862 годах. Покровский и Пятницкий приделы в расширенной в 1870-х годах трапезной.

Собор закрыли в 1930-х годах. Взорван в 1940 году. На месте храма установлен памятник Ленину.