Многие думают, что имя свое улица получила по некогда покрывавшей ее непролазной грязи. Поспешим опровергнуть это заблуждение: название улицы произошло от пересекавшей ее речки Черногрязки — притока Яузы. Как и остальные Садовые, появилась на месте срытого в 1816 году Земляного вала. Слева от Земляного вала здесь находились владения Басманной слободы, где, по одной из версий, жили пекари, выпекавшие особый хлеб — басман, а по другой – чеканщики по металлу (басмой на Руси называли тонкие листы металла с вытесненным, вычеканенным рельефным рисунком, применявшиеся для различных украшений). Справа располагалась Огородная слобода, снабжавшая государев двор овощами и фруктами. В 1816 году остатки вала снесли, ров засыпали, а на их месте постановили создать широкую кольцевую улицу, мощённую булыжником. Под мостовую и тротуары отводилось 25 м из общего расстояния между двумя линиями домов, на остальном пространстве домовладельцы были обязаны устроить палисадники из насаждений по своему вкусу.

Особых исторических событий на улице не происходило, хотя пережила она пожар 1812 года и слышала залпы революций 1905 и 1917 годов; сражений на ней не было.

Сегодня Садовая-Черногрязская улица – это часть Садового кольца, она начинается от площади Красные Ворота, проходит на юго-восток, с внутренней стороны к ней примыкают Большой Харитоньевский и Фурманный переулки и улица Машкова, а с внешней стороны — Хомутовский тупик. Заканчивается на площади Земляной Вал. На углу Садовой-Черногрязской и Покровки находится площадь Цезаря Куникова, советского офицера, командира десантного отряда, захватившего в феврале 1943 года плацдарм «Малая Земля».