Улица проходит от Бродникова переулка, пересекая 1-й Хвостов переулок, до 1-го Спасоналивковского переулка. К Малой Полянке также примыкают 2-й Полянский и 2-й Хвостов переулки.

Происхождение этого названия интересно. Давным-давно отсюда начинались поля. Сегодня, глядя на плотно застроенные кварталы, это трудно себе представить. Такого рода названия раскрывают древнюю топографию города, и потому их надо беречь так же тщательно, как материальные исторические памятники.

В древности по этой местности проходила дорога из Великого Новгорода в Рязань, затем — дорога от Боровицких ворот Кремля к Серпуховским воротам (ныне Серпуховская площадь), которая была застроена редкими избами крестьян, затем здесь появились поселения ремесленников и торговцев, стрельцов и казаков. К концу XIX – началу XX века местность заметно европеизировалась, обогатилась доходными домами, обрела водопровод, канализацию и электрическое освещение.

Вплоть до 1930-х годов квартал к востоку от Малой Полянки, между Вторым Полянским переулком и Бродниковым переулком занимал обширный Полянский рынок — центр общественной жизни Якиманской части. На его месте стоит школьное здание и наземный выход из станции метро «Полянка».

Здесь в 1840-е годы жили Афанасий Фет и Аполлон Григорьев, в конце XIX века В. О. Ключевский.