По преданию, образ был написан для Арзамасского Троицкого мужского монастыря. Но когда икону переносили в обитель, отслужив молебен около Макарьевского Кретовоздвиженского храма, не смогли дальше сдвинуть ее с места. Увидев в этом знамение Божие, икону оставили в Крестовоздвиженском приходе, где она и находилась до революции.
Вот как описывает это историк Н.М. Щегольков: «1643 год ознаменовался перенесением в Арзамас и прославлением чудотворной иконы — Казанскго образа Божией Матери, который находится в Крестовоздвиженской церкви… Летом этого года стояла продолжительная засуха, по этому поводу назначен был крестный ход вокруг города. Утром в этот день прихожане Крестовоздвиженской церкви во время совершения Божественной Литургии увидели проходившего мимо их церкви некоего инока Даниила, несшего большую икону Казанской Божьей Матери. Они вышли из храма и спросили его, куда несет он святую икону. Даниил отвечал: «В монастырь Живоначальныя Троицы» (монастырь этот был там, где ныне церковь Святого Духа). Но, крестовоздвиженские прихожане стали просить его, чтобы он отдал икону в их церковь, на что Даниил и согласился. Весть об этом разнеслась по городу, и тогдашний игумен Спасского монастыря (схимонах Феодосий), совершавший литургию в соборе, повелел крестному ходу идти сначала к Крестовоздвиженской церкви, где пред новопринесенною иконою совершено было молебное пение, после которого икона взята была в крестный ход. Когда дошли до погоста церкви Илии Пророка, Господь прославил св. икону благодатным знамением: от нее увидели свет и истекло миро, потом Бог даровал и дождь».
В 1792 году при Крестовоздвиженской церкви был построен новый теплый храм в честь Казанской иконы Божией Матери.
После закрытия храмов Крестовоздвиженского прихода в 1929 году образ был передан в музей атеизма, разместившийся в Кафедральном соборе во славу Воскресения Христова города Арзамаса.
Сегодня в киоте иконы хранится пояс, освященный на Поясе Пресвятой Богородицы из Ватопедского монастыря на Афоне, во время посещения этой великой святыни Арзамаса в 2011 году.
Казанская икона Божией Матери хранится в кафедральном соборе во славу Воскресения Христова города Арзамаса.
При цитировании ссылка (гиперссылка) на сайт Арзамасского благочиния Нижегородской епархии обязательна