Построен в 1518—20 Климом Мужилой как главный храм Ильинского мужского монастыря (основан в XV веке) близ центра московского Торга (в народе первой, назывался «на Торговище»). Древнейший из сохранившихся в Китай-городе храмов. Неоднократно восстанавливался после пожаров (наиболее крупные в 1547, 1626, 1776). Разорен во время польско-литовской интервенции 1612. После упразднения Ильинского монастыря (1626) стал приходским. По благословению Патриарха Иоакима в 1676 передан архиерейскому дому Новгородского митрополита, который основал здесь свое подворье. В начале XVIII века надстроил (верхний храм), к с.-з. углу пристроил четырехъярусную колокольню, coopудил придел святого апостола Тимофея (разобран после 1867) и завершение с изящной главкой в стиле московского барокко. В первой половине XIX века перестроен в стиле русского классицизма. В 1854—69 обстроен примыкающими к сев. и юж. фасадам трехэтажными корпусами Теплых торговых рядов (с первыми в Москве постоянно отапливаемыми зимой магазинами) и обновлен. Расширен к югу. Стал иногда называться «Илии пророка в Теплых рядах на Ильинке».

Храм — одноглавый, кубический в плане, с тремя алтарными выступами, с толстыми (более метра) стенами, на сводчатом подклете с подвалом (глубина 3 метра). В сев. части подклета - проезд (XVII—XVIII вв.). Храм построен без трапезной. Верхний ярус храма в формах барокко: барабан главки с ребристым куполом, пилястрами, над ними — карниз. Сохранились три яруса (нижний — подвальный, сводчатый) колокольни.

Закрыт в 1923. С 1930-х здание занимали учреждения Метростроя, в 1980—90-х — фабрика.

Богослужение возобновлено в 1995. Работают: воскресная школа для детей и взрослых, изостудия для детей, вышивальная мастерская.