Эта церковь – все, что осталось от некогда существовавшего на Лубянке поселения выходцев из Великого Новгорода. Переселялись они во многом не по своей воле, а под давлением великого князя московского, и хотели на новом месте создать своеобразное напоминание о родном городе.

До 1922 года Пушечная улица носила название Софийка – по храму Софии Премудрости Божией. Такое название для церкви было выбрано не случайно: после присоединения Новгородской республики к Московскому великому княжеству в столицу оказались перевезены многие именитые горожане, а их место в Великом Новгороде заняли верные новой власти люди. Создавая свое компактное поселение на территории, данной им московским князем, новгородцы назвали соседнюю улицу в честь исторического района своего города – Лубяниц – а также поставили храм, напоминающий им о знаменитом Софийском соборе. Впервые деревянная церковь святой Софии на этом месте упоминается в 1480 году. Новгородский характер храма подчеркивало и существование при ней придела во имя святого Никиты Новгородского. В дальнейшем здание церкви несколько раз обновлялось, в 1650 году оно построено заново, а в 1685 году сгорело в пожаре. На средства стольника Моисея Овцына в 1691 году начинается строительство каменной церкви с приделом святого Николая Чудотворца, завершенное через год.

Основная часть храма сохранилась с конца XVII века до наших дней, однако со временем она оказалась обстроена новыми объемами трапезной и колокольни, а также лишилась своего изначального фасада. Вместо пятиглавия во второй половине XVIII века появился купол с одной главой, окна растесаны, а наличники утрачены. Колокольня построена в 1816 году в стиле ампир, с тосканскими портиками с трех сторон на нижнем ярусе и рустовой обработкой, ярус звона был сделан восьмигранным со шпилем. Трапезная заново сооружена в 1842 году, тогда же с юга создан второй придел в честь Казанской иконы Божией Матери. Так как здание церкви стоит под углом по отношению к Пушечной, то его структура получилась несимметричной, Казанский придел сделан усеченным, чтобы соблюсти красную линию улицы.

К 1932 году церковь была закрыта и передана органам госбезопасности. Вскоре храм лишился главы и завершения колокольни, уничтожены портики, а сам он превратился в Экспериментальную фабрику спортивных изделий общества «Динамо». Историческое окружение храма к 1980-м годам было полностью снесено, но само здание все же сохранилось. Территория церковного двора полностью застроена новыми корпусами органов госбезопасности. С 2001 года богослужения в храме возобновлены, он получил статус приходской церкви при ФСБ.