Вторая исаакиевская церковь была заложена в 1717 году примерно на том месте, где сейчас стоит Медный всадник. Был сооружен каменный храм в стиле «петровского барокко» (архитектор Г. И. Маттарнови). 6 августа 1717 года Пётр I собственноручно заложил первый камень в основание собора. После кончины Маттарнови, в 1721 году строительство возглавил Н. Ф. Гербель. Но через три года он тоже умирает, и фактически завершает строительство каменных дел мастер Яков Неупокоев.

Собор, построенный в 1727 году в плане имел форму вытянутого прямоугольника, а по облику напоминал Петропавловский собор. Это сходство ещё более усиливалось благодаря стройной колокольне с часами-курантами, привезёнными Петром I из Амстердама вместе с часами для Петропавловского собора. И. П. Зарудным для церкви был сделан резной золочёный иконостас, подобный иконостасу в Петропавловском соборе.

Собор был построен на берегу Невы, там, где сейчас стоит Медный всадник. Место было выбрано явно неудачно, вода, размывая берег воздействовала на фундамент, разрушая кладку. К тому же летом 1735 года удар молнии вызвал пожар в соборе и он серьёзно пострадал. Для обследования состояния собора Сенат направил архитектора С. И. Чевакинского, который констатировал невозможность сохранения здания. Собор решили разобрать и построить новый дальше от берега.