В XVIII—XIX веках на месте сада имени Н.Э. Баумана располагались приусадебные участки дворянских семей. В конце XVIII века князь Михаил Голицын передал в общественное пользование сад своей усадьбы, расположенной на Старой Басманной улице, 15. Жителям Москвы «дозволялось гулять по нему невозбранно». В 1900-х годах к общественному саду были присоединены части находившихся рядом на Новой Басманной улице приусадебных участков Чулковых и Левашовых.

Официальное открытие парка состоялось весной 1920 года под названием «Сад имени 1-го мая». В результате объединения садов Голицыных, Чулковых и Левашовых с усадьбой промышленника Николая Стахеева, располагавшейся по соседству на Новой Басманной улице, территория парка была значительно расширена. В состав сада также вошло здание особняка Голицыных с хозяйственными постройками и искусственным гротом «Бельведер», возведённым в XVIII веке.

В 2012 году территории сада были отреставрированы по проектам архитектурного бюро «Wowhaus» под руководством директора парка Игната Жолобова. В ходе работ отремонтировали грот «Бельведер» и проложили новые инженерные коммуникации, сад оборудовали бесплатными точками доступа Wi-Fi и системой видеонаблюдения.

В 2022 году открыт исторический каменный грот «Бельведер», находившийся в аварийном состоянии с 2009 года. В процессе работ по восстановлению была расчищена и загерметизирована каменная кладку, усилен фундамент, воссозданы арки по бокам от главного входа и лестницы. Под слоем грунта найден утраченный каскад, на его вершину установлена скульптура в виде танцующей девушки с высоко поднятой ногой.