Название улицы напоминает о церкви Иоакима и Анны, построенной в районе Голутвенных переулков в XVII в.

В XIV-XV в. здесь пролегала дорога из Москвы в Калугу, и улица долгое время называлась Калужской. В то время водоотводного канала Москва-реки еще не было, улица брала свое начало у озерка. Гильдянский мост через озеро выходил прямо к Большому Каменному мосту через Москва-реку.

По правую сторону Якиманки размещалась Голутвина слобода, участок земли, принадлежавший Голутвину монастырю в Коломне. Сейчас о слободе напоминают Голутвинские переулки, сохранившие свое название до наших дней.

По левой стороне улицы простиралась богатая Кадашевская слобода, населенная мастерами, изготовлявшими «кади» – кадушки для царева двора.

В XVII в. этот район был мало заселен. Здесь жили стрельцы, получали двора иноземцы, располагалась слобода жителей Польши – Панская, а также иноземная слобода, где располагался кабак. Эта местность называлась у москвичей Налейки, а потом Наливки. Церковь, построенная в слободе в XVII в., именовалась Спас в Наливках. Сейчас это район Спасоналивковских переулков.

В XVIII в. на Якиманке появилась церковь Иоанна Воина, сохранившаяся до наших дней. Тогда улица перестала быть стрелецкой, здесь селились купцы, чиновники, дома строились деревянные с садами и усадьбами.

В 1812 г. улица не пострадала. Именно по Якиманке наполеоновская армия уходила из Москвы в сторону Калуги.

Иван Шмелев в книге «Лето Господне» так описывал свое детское путешествие по Якиманке конца XIX в.: «Улица очень длинная, скучная, без лавок, жаркая. Дремлют дворники у ворот, раскинув ноги. И все дремлет: белые дома на солнце, пыльно-зеленые деревья, за заборчиками с гвоздями, сизые ряды тумбочек, похожих на голубые гречневики, бурые фонари, плетущиеся извозчики».

Только во второй половине XIX в. на Якиманке началось каменное строительство. Был построен дом Игумнова, дом Клименкова. В начале ХХ в. появились и многоэтажные доходные дома.

Кроме жилых домов на улице были построены две гимназии, училище и богадельня.

После строительства Водоотводного канала улица берет свое начало на Якиманской набережной и делает плавный изгиб. Это обстоятельство несколько затрудняло движение на Юго-Запад Москвы. После строительства больших жилых комплексов в этом районе, в 1970-х, Якиманка была соединена с Б. Полянкой Якиманским проездом, который сейчас выглядит как единое целое с Б. Якиманкой, а начало улицы уходит вбок и смотрится второстепенным переулком.

При строительстве Якиманского проезда была взорвана церковь Иоакима и Анны, располагавшаяся как раз в районе стрелки, образовавшейся при строительстве проезда.

В 1957 г. улица была названа именем болгарского революционера и общественного деятеля Г.М. Димитрова. Таким образом было решено отметить 75-летие со дня рождения Димитрова, жившего в свое время около Каменного моста.

В 1992 г. ей возвращено прежнее название.