В 1514 году Василий III повелел возвести в Москве одиннадцать церквей, «а всем тем церквам был мастер Алевиз Фрязин». Новый каменный храм Святого Владимира, построенный мастером Алевизом, был освящён в 1516 году. В конце XV века рядом с Владимирской церковью был основан Иоанновский монастырь, по названию монастыря холм стали называть «Ивановской горкой».

В начале XVII века великокняжеская усадьба была перенесена в село Рубцово-Покровское в связи с тем, что юго-восточную часть Белого города стали активно заселять. Церкви, располагавшиеся ранее в резиденциях, стали приходскими, при них образовались погосты. Сложившаяся в то время сеть улиц и переулков сохранилась до настоящего времени.

Во второй половине XVII века обветшалую Владимирскую церковь сильно перестроили (в частности, на средства семьи стольника Ивана Вердеревского, жившего неподалёку). Храм разобрали до нижнего яруса стен и выстроили заново, с приделами и многоярусной колокольней. В итоге от храма работы Алевиза Нового сохранились только нижняя часть стен и южный портал. В конце XVIII века была перестроена колокольня. Она стала ниже, и на ней был установлен шпиль. Храм ещё несколько раз перестраивали, устраняя повреждения от больших московских пожаров, Троицкого пожара в мае 1737 года и пожара 1812 года.

Храм был закрыт в 1933 году. В 1937 году церковь начали разбирать. Были разрушены пять глав, венчающих храм, уничтожено внутреннее убранство. От полного уничтожения церковь была спасена вмешательством органов государственной охраны памятников города Москвы. Здание церкви было передано в ведение Государственной публичной Исторической библиотеки, которая разместила в ней свои резервные фонды. В 1980 году в здании храма произошёл пожар, уничтоживший книги и сохранившиеся остатки росписей на стенах.

В 1990 году после завершения реставрационных работ во внешней части храма он был передан Русской православной церкви. В 1991 году, после длительного перерыва, в отреставрированном Владимирском храме состоялась первая литургия. В 1998 году возобновились богослужения в приделе благоверных князей Бориса и Глеба.

В настоящее время при храме действует воскресная школа, православная гимназия, детский сад, школа церковного пения, учебная столярная мастерская, благотворительное братство во имя равноапостольного князя Владимира, издательство.