Приход храма известен с 1627 года. Рядом со слободой стрелков — пищальщиков, телохранителей Василия III была построена деревянная церковь. В 1694 на месте деревянной была возведена каменная церковь Казанской Богоматери «на Житном дворе». В 1882 году храм был полностью перестроен и приурочен к победе России в Русско-турецкой войне 1877-1878 годов. В 1922 году храм был закрыт. В 1933 колокольня и ограда были разрушены, а в обезглавленном храме разместился Горный музей, а позднее — кинотеатр «Авангард». В 1972 храм был снесен (за одну ночь), и на его месте в 1977-1978 годы было построено здание Министерства внутренних дел. В 1999-2000 годы в память о сотрудниках МВД РФ, павших при исполнении служебного долга было возведено современное здание Казанского храма. Освящение храма совершено Святейшим Патриархом Московским и всея Руси Алексием II 1 июня 2000 года.