Построен в честь победы в Отечественной войне 1812 года. Заложен в 1814 году. Стены возведены к 1821 году. Главный престол освящён 15 сентября 1840 года.
Здание имеет форму греческого креста, положенного на квадрат. Длина и ширина здания равны и имеют по 30 сажен (63,9 м), а высота до среднего креста — 22 сажени (46,86 м). На фронтонах собора расположены большие фрески на библейские сюжеты: "Воскресение Христа" (восточный фронтон), "Явление св. Троицы Аврааму" (южный), "Собор всех святых" (западный), "Покров Пресвятой Богородицы" (северный).
Закрыт в 1932 году, использовался как музей. С 1944 года снова действующий.