Каменный храм в честь славных и всехвальных первоверховных апостолов Петра и Павла построен в 1146 году при Ростиславе Мстиславовиче, князе Смоленском. Освящен Симеоном, первым епископом Смоленским. В 1611-1654 годах храм обращен в костел. В нем служил католический архиепископ. С 1654 года становится приходским православным храмом. В середине XVIII века храм перестроен и включен в объем примкнувшего с западной стороны храма великомученицы Варвары. Во время Отечественной войны 1812 года храм разграблен. Восстановлен в 1813 году на средства из казны. В храме в особо устроенном киоте хранилась местно чтимая икона преподобного Нила Столбенского с частицей его святых мощей, а также древняя икона апостолов Петра и Павла. Храм был кафедральным при архиепископе Серафиме (Остроумове) с июля 1927 года до закрытия в 1935 году. В 1943 году во время боев за осво-бождение Смоленска храм сильно пострадал. В 1962-1963 годах под руко-водством архитектора П.Д.Барановского Смоленские реставрационные мастерские выполнили работы, вернувшие храму Петра и Павла первоначальный облик.

Богослужение возобновлено в 1991 году. Первоначальные работы по приспособлению храма для Богослужения проведены хозяйственным отделом Епархиального управления. Патриарх Московский и Всея Руси Алексий II посетил храм 3 мая 1993 года. В 1996 году состоялась юбилейная научная конференция, посвященная 850-летию храма. В 1997 году приходом приобретена икона Иверской Божией Матери Афонского письма. Храм неоднократно посещал митрополит Кирилл. Реставрация храма в 1992-2000 годах проведена при священнике Владиславе (Степанове).