Первоначальный деревянный храм появился на этом месте на рубеже XV–XVI вв. Название «Обыденный» указывает на то, что церковь была построена в один день — видимо, из готовых срубов. По другой версии, церковь построена «по обету», после завершения сильной засухи. Отметив завершение природного катаклизма, храм попал в историю уже государственного нестроения: в Смуту, 24 августа 1612 г., келарь Троице-Сергиева монастыря Авраамий Палицын служил здесь молебен о победе над поляками, на котором присутствовал и князь Дмитрий Пожарский — неподалеку располагался штаб Второго ополчения, отражавшего натиск гетмана Хоткевича.

Деревянный храм несколько раз поновлялся, а в 1702 г. ему на смену пришла каменная постройка, средства на возведение которой пожертвовал думный дьяк Гавриил Деревнин — о нем и его брате Василии напоминают мраморные плиты внутри храма. Церковь возводилась по архитектурной моде своего времени: вытянутая по вертикали, она представляет собой конструкцию «восьмерик на четверике». Грани обоих объемов отмечены колонками коринфского ордера с маленькими пышными капителями, окна же строго аскетичны и не украшены наличниками вовсе. Восьмерик увенчан одной граненой главой с крестом. В северной стене храма сохранилось несколько надгробных таблиц, напоминающих о существовавшем здесь ранее приходском кладбище. В интерьерах сохранился центральный иконостас с образами XVII в., находившимися еще в деревянном храме, в том числе образ Спаса Нерукотворного 1675 г., образ Казанской Божией Матери, созданный Симоном Ушаковым, храмовая икона святого Илии Пророка с 20 клеймами жития и другие.

Трапезная церкви была первоначально однобокая, с приделом Симеона Богоприимца и Анны Пророчицы. Ей на смену в 1819 г. пришла каменная трапезная, в которой появился второй престол во имя апостолов Петра и Павла. Однако окончательно существующий облик Ильинского храма сформировался в 1866–1868 гг., когда трапезная была перестроена и расширена, а с запада по проекту А.С. Каминского создана новая колокольня с четырехгранным шатром, с элементами в псевдорусском стиле. Работы велись на пожертвования церковного старосты — купца В.Д. Коншина. Также известной благотворительницей была жившая по соседству А.Д. Третьякова — мать создателя галереи. В 1882 г. при храме было построено здание эпохи "барокко" для школы и богадельни.

После революции церковь пострадала во время кампании по изъятию церковных ценностей, утратив часть убранства и драгоценной утвари. Но в храме продолжались богослужения. Из храма Воскресения в Сокольниках сюда была перенесена икона Божией Матери «Нечаянная радость» (до революции находилась в церкви Благовещения в Кремле), долгие годы хранился посох последней настоятельницы соседнего Зачатьевского монастыря (его вернули в обитель после возрождения в ней монашеской жизни). Существует устойчивая легенда, что власти планировали объявить о закрытии церкви 22 июня 1941 г., но этому воспрепятствовало начало Великой Отечественной войны.

В то время, когда храмы повсеместно были закрыты, службы в церкви Илии Пророка продолжались. Поэтому именно здесь устроили заочное отпевание писателя М.А. Булгакова после его кончины. Так пожелали его сестры, сам же писатель перед смертью просил о кремации. Его просьбу выполнила супруга писателя Елена Сергеевна Булгакова, похоронив прах писателя на Новодевичьем кладбище.