Из предания, подтверждаемого древней надписью, записанной уставом на деревянной доске и хранящейся в Ключевской церкви, видно, что в роднике или ключе явилась икона Казанская Божией Матери недалеко от с. Четвертакова. Населявшая окрестности этого села мордва, пребывавшая в то время в язычестве, видя бывшие от явленной иконы чудотворения, уверовала в истинного Бога и приняла святое крещение. К сожалению, никаких документальных о сем сведений в Свято-Троицком монастыре не сохранилось, так как все документы были истреблены пожаром в 1775 г.

В 1708 г. по указу Свято-Троицкого монастыря над родником, где явилась икона, была построена первая деревянная церковь во имя Казанской Божией Матери; и в том же году, 29 авг., была освящена приходским свящ. о. Иоанном. Эта первая церковь была сломана за ветхостью в 1767 г. и вместо нее вновь построена вторая деревянная церковь. Каменный храм в честь Казанской иконы Божией Матери построен в 1806 г. Храм этот не имел колокольни, но имелась деревянная звонница, на которой находился колокол весом в 8 пуд. Во втор. пол. XIX в. была построена колокольня. Чудотворный Казанский образ Божией Матери с давнего времени ежегодно носили из монастыря на ключ.
Пустынь была закрыта в 1930-х гг. Храм был частично разрушен, снесены колокольня и часовня над источником. Возрождена пустынь в 1994 г. Восстановлен храм.