Впервые деревянный храм на этом месте упоминается в 1620 году. В 1352, 1426 и 1693 годах Серпухов посещало моровое поветрие, один раз город почти весь вымер, по преданию, осталось 6 семей. Умершие были похоронены у церкви Успения в общей могиле, это место называлось "убогий дом". В четверг на 7 неделе по Пасхе сюда направлялся из собора крестный ход, и служилась панихида.

В 1744 году (1737-1741 (?) годы) построен каменный Успенский храм. В 1817 году церковь повреждена пожаром.

В 1846-1854 годах церковь перестраивается на средства потомственного почётного гражданина Николая Максимовича Коншина (1798-1853). Храм освящен в 1854 году. Приделы в трапезной во имя святого апостола Иоанна Богослова, иконы Божией Матери "Всех Скорбящих Радость", в нижнем ярусе колокольни во имя преподобного Николы Святоши.

В советское время, не позже 1930-х годов, Успенский храм закрыли. Настоятель протоиерей Алексий Синайский расстрелян на полигоне Бутово в 1938 году.

В 1990-х годах церковь возвращена верующим.