Построен в 1420—27 (по другим источникам — в 1390-х) на левом берегу реки Яузы в Спасо-Андрониковом монастыре (Андроникова Спаса Нерукотворного монастырь, основан в 1360 святителем Алексием, митрополитом Московским в память его чудесного избавления от бури на Черном море; назван по имени первого игумена, ученика преподобного Сергия Радонежского, преподобного Андроника, который построил на этом месте первый, деревянный Спасский собор).

В XIV—XVII вв. монастырь — один из центров переписки книг. В монастыре провел последние годы жизни и похоронен преподобный Андрей Рублев (скончался в 1427, по другим источникам в 1430). Предполагается, что он принимал участие в строительстве собора. В 1763 в монастыре похоронен основатель русского театра Ф.Г.Волков.
Монастырь служил форпостом на ю.-в. подступах к Москве для защиты от монголо-татарских набегов. Подвергался разорению от монголо-татарских (XIV—XVвв.), польско-литовских (1611) и наполеоновских (1812) войск. Каждый раз восстанавливался. После пожара 1812 собор в 1813—20, а затем в 1840—50-х коренным образом перестроен. В монастыре построено: в XVI в. — трапезная с храмом Михаила Архангела, надвратный храм Рождества Богородицы (перестроен в XVII в.); в
XVII—XVIII вв. — стены и башни (частично разобраны в XIX в., восстановлены в 1960); в конце XVIII в. — колокольня (73 м).

В соборе — характерные архитектурные черты раннемосковского зодчества. Прообраз столпообразных соборов XVI в. Белокаменный, четырехстолпный, крестовокупольный в плане, с тремя алтарными выступами. Имеет форму ярусного храма-башни. Килевидные закомары и кокошники как бы наслаиваются друг на друга. В самом центре верхней части четырехугольного храма на высоком постаменте — барабан, который из четырехгранника с помощью диагональных закомар преобразован в восьмигранник, переходящий в барабан купола. Декоративное внешнее украшение — килевидная арка и на барабане купола — городчатый с поребриком пояс карниза главы. Собор находится на высоком цоколе, к порталам ведут широкие лестницы.

После 1917 монастырь подвергся разорению и разрушению. В 1919 в его помещениях устроены жилые квартиры. В 1922 из монастыря и собора властями изъято церковной утвари и ценностей - свыше 5 фунтов золота, более 28 пудов серебра, 625 бриллиантов, жемчужная риза.

Закрыт в 1922. В 1930-х разрушены колокольня, храмы — Рождественский (XVI в.), мученика Евграфа (1874), уничтожено кладбище с памятниками. В монастыре размещались колония для беспризорников, различные учреждения, архив. В 1947—49 было решено отреставрировать монастырь. В 1960 (год 600-летия со дня рождения преподобноо Андрея Рублева) в монастыре открыт Музей древнерусской живописи имени А.Рублева (с конца 1980-х — Центральный музей древнерусской культуры и искусства имени Андрея Рублева).

Огромную роль в восстановлении исторического комплекса монастыря и создании музея сыграл Д.И.Арсенишвили, ставший его первым директором. В 1954—60 отреставрирован собор (реконструирован вид XVв.; архитектор Л.А.Давид и другие).

Внутри храм расписывался преподобным Андреем Рублевым и Даниилом Черным (1420-е). Сохранились только фрагменты орнаментальной росписи на откосах алтарных окон. В храме — несколько старинных плит. У сев. стены — символическое надгробие преподобного Андрея Рублева. В соборе под спудом находились мощи преподобного Андроника и его преемника — преподобного Саввы Московских (местонахождение не установлено).

Святыня храма — особо чтимая икона Всех Святых.

В июле 1989, в первую годовщину канонизации преп. Андрея Рублева, в соборе была отслужена первая Божественная литургия. При соборе — учебная хоровая группа знаменного распева (весь служебный круг поется этим распевом), иконописная мастерская и издательская группа.