Сухаревка, как издавна называли саму площадь и прилегающие к ней кварталы, была знаменита не только на всю Москву, но и на всю Россию. Трудно было найти в Белокаменной место более многолюдное, шумное и оживленное. Название это часто встречается в русской классической и мемуарной литературе.

В старой Москве это место было весьма выдающимся и памятным — здесь почти полтора века находился знаменитый Сухаревский рынок или просто - Сухаревка.

Сухаревская площадь была отмечена высокой, монументальной Сухаревой башней — ее верхушка со шпилем просматривалась с весьма дальнего расстояния. Арка в цоколе башни служила воротами былого Земляного города, открывая въезд в Москву со стороны 1-й Мещанской улицы (ныне проспект Мира). В самой башне, сооруженной на рубеже XVII—XVIII веков, Петр I поместил Школу математических и навигацких наук — первое в России высшее техническое учебное заведение, готовившее судоводителей, инженеров, геодезистов и т. п. Здесь же была оборудована астрономическая обсерватория. Позднее, с 1828 по 1893 год, в башне находились резервуары Мытищинского водопровода.

Само название башни и площади происходило от имени верного Петру I стрелецкого полковника Л. П. Сухарева, чей полк нес охрану ворот и прилегающей местности.

В 1780-х годах около ворот разросся давно уже существовавший здесь торг, где приезжие крестьяне торговали мясом и другими продуктами. В XIX — начале XX века помимо съестных припасов на рынке можно было приобрести старые вещи, подчас ценные художественные изделия, а также древние рукописи и книги. Частыми посетителями Сухаревки были многие выдающиеся любители старины и коллекционеры — А. А. Бахрушин, И. Е. Забелин.

Именно на Сухаревском рынке толстовский Пьер Безухов купил себе в 1812 году пистолет, которым намеревался убить Наполеона. Нравы рынка колоритно описал в очерке «Сухаревка» В. А. Гиляровский.

В декабре 1920 года постановлением Моссовета рынок, как один из главных очагов спекуляции, был закрыт.

После введения НЭПа рынок снова открылся, но вскоре был упразднен окончательно.

После сноса Сухаревой башни в 1934 году здесь установили Доску почета лучших колхозников Московской области и площадь получила название Колхозной, чтобы с 1939 года стать Большой Колхозной. В 1994 году площади вернули историческое название, первоначально объединив две площади (Большую и Малую) в одну. Но т.к. при этом потребовалась перенумерация зданий, недопустимой из-за того, что тогда бы изменился адрес Института скорой помощи им. Склифосовского, было принято решение оставить деление на Большую и Малую.