Церковь построена в 1564 в урочище Старые Паны, в котором находился польский панский двор, в Китай-городе, на месте сгоревшего одноименного храма (1564), включил в себя часть его здания. Сохранившаяся древнейшая часть этого храма — алтарь, по-видимому, был унаследован от предшественника храма 1564 (первое письменное упоминание о нём — 1468). Над ним — древнее помещение придела святителя Иоанна Златоуста (упразднен в 1878). По преданию, в храме венчался царь Иван Грозный со своей шестой женой Василисой Мелентьевной. В 1640 с сев. к нему пристроен Успенский храм, в 1803 с юж. стороны — трапезная и колокольня. Таким образом, к XIX в. храм состоял из двух, ставших приделами общего храма, церквей (светых Космы и Дамиана и Успенской) и трапезной. В разное время храм назывался также Успения в Старой певчей слободе и святителя Иоанна Златоуста.

В 1920-х закрыт. В 1926—27 отреставрирована (арх. Д. П. Сухов) сев. часть (Успенский храм). В 1930-е разобрано все, что было coopужено в 1803 (трапезная и колокольня), и отреставрированное завершение храма, сняты наличники. Позже храм подвергся переделкам. Заложен портал. На месте снесенной зап. части древнего храма святых Космы и Дамиана построено административное здание. В 1960—80-х в помещении храма размещались отдел регулирования уличного движения, затем советско-американское предприятие. Сохранились придел Успения Пресвятой Богородицы (Успенский храм) с алтарем и надстроенным притвором и придел святых бессребреников Космы и Дамиана (вост., древнейшая часть храма) с алтарем 1468. Сохранились также два венчающих храм глухих шатровых покрытия.

Богослужения возобновлены в 1995.