Строившаяся с расчетом на главенство в квартале, сейчас эта церковь стиснута высокими зданиями со всех сторон и оттого уже не может восприниматься так, как это задумывалось ее зодчим. Только зайдя во двор Романов переулка можно оценить ее масштаб и величие. При виде масштабного Знаменского храма трудно поверить, что возводился он как домовая церковь.

В XVI в. здесь располагался опричный двор Ивана Грозного, перешедший в 1613 году к Ивану Никитичу Романову, дяде нового царя – Михаила Федоровича. Тогда же на его дворе впервые появилась и церковь Знамения Пресвятой Богородицы с приделами преподобного Сергия Радонежского и Варлаама Хутынского, а двор получил название «Старого Государева». Впоследствии эти владения еще несколько раз меняли своих владельцев, пока в 1671 году участок не отошел Кириллу Полуэктовичу Нарышкину, тестю царя Алексея Михайловича. Его сын, Лев Кириллович, и построил в 1691 году существующее здание церкви для себя и своих домочадцев.

Это была одна из первых в Москве церквей в стиле «нарышкинского барокко», который зародился именно во владениях этого рода. Зодчим Яковом Бухвостовым, предположительно строившим храм, использована новая структура церковного здания: на традиционный четверик первого яруса был поставлен восьмерик, а на него – три последовательно уменьшающихся восьмерика, последний из которых увенчан луковичной главой. Отдельной колокольни у церкви не было: звонница располагалась во втором восьмерике – такой тип храмов приобрел название «под колоколы». Помимо центральной, храм увенчан еще тремя главами над апсидами и еще одной – над трапезной. Церковь окружена открытой папертью в виде террасы-гульбища.

В середине XVIII в. двор перешел к мужу Екатерины Ивановны Нарышкиной – Кириллу Григорьевичу Разумовскому, последнему гетману Левобережной Украины. В это время церковь не претерпела почти никаких изменений, но была соединена галереею с домом Разумовского. Его сын, Алексей Григорьевич, в 1800 г. продал двор Николаю Петровичу Шереметеву, после чего двор приобрел свое постоянное название – Шереметевский. События 1812 года отразились на церкви: ее приделы из-за разграбления были упразднены, а в ней самой надолго прекратились богослужения. Лишь в середине XIX века Н.Н. Шереметева с помощью архитектора Григорьева и по благословению митрополита Московского Филарета отреставрировала Знаменский храм – в 1847 году состоялось его освящение церкви. Возобновленная церковь стала не только домовым храмом Шереметвых, но и приходским, в нем вместе молились и хозяева владений, и москвичи.

После закрытия в первой половине 1920-х годов Знаменская церковь утратила свою паперть, почти всю трапезную вместе с западной главой, архитектурная обработка первого яруса была сбита, а само здание оказалось застроено со всех сторон. В его стенах разместилась столовая Кремлевской больницы, расположившейся в бывшей усадьбе Разумовских и Шереметевых. Церковь стала осыпаться, железо на ее куполах насквозь проржавело. Лишь в 2004 году состоялось первое богослужение в храме, после которого начался медленный процесс передачи его в православной общине и кропотливая реставрация. Ее итог виден сегодня: храм вернул себе утраченные архитектурные элементы и более не производит впечатления заброшенности. Реставрационные работы были отмечены на ряде конкурсов как высококлассные и качественные.