Родился в семье владельца обойной и столярной мастерской Эрнеста Андреевича Баумана, происхождением из поволжских немцев.

Учился во 2-й Казанской гимназии, из 7-го класса которой ушёл, не поладив с преподавателями. В 1891—1895 годах был студентом Казанского ветеринарного института. В годы учёбы увлёкся нелегальной народнической и марксистской литературой, участвовал в работе подпольных рабочих кружков. С дипломом ветеринарного врача Бауман отправился на работу в село Новые Бурасы, Саратовской губернии, мечтая заниматься там революционной пропагандой, но, попав в поле зрения полиции и стремясь к широкой революционной деятельности, осенью 1896 года, уехал в Санкт-Петербург. В 1896—1897 годах работал в Петербурге. В 1896—1897 годах член Петербургского «Союза борьбы за освобождение рабочего класса». В 1897 был арестован и заключён в Петропавловскую крепость, где содержался в одиночной камере 22 месяца.

В 1899 году был сослан в город Орлов Вятской губернии, откуда в том же году бежал за границу. В Цюрихе в 1900 году познакомился с Лениным. Бауман стал активным участником подготовки издания, а затем транспортировки газеты «Искра». В декабре 1901 года по поручению В. И. Ленина приехал в Москву, стал членом Московского комитета РСДРП. В августе 1902 года участник известного побега одиннадцати (включая таких агентов «Искры», как Максим Литвинов, Осип Пятницкий и Лев Гальперин) из Лукьяновского тюремного замка в Киеве. В 1902—1903 годах всплыло «дело Баумана» — Василий Митров требовал над ним партийного суда из-за самоубийства своей супруги Клавдии Приходьковой (все трое пребывали в орловской ссылке, где Приходькова вначале сблизилась с Бауманом, но затем вышла замуж за Митрова; по утверждению последнего, бывший ухажёр стал из эмиграции слать компрометирующие письма, доведшие её до суицида).

С 1903 года Бауман возглавлял Московскую организацию большевиков и Северное бюро ЦК партии. Работал в Московском комитете РСДРП. Был арестован, но бежал. Был делегатом II съезда РСДРП от Московской партийной организации, по всем обсуждавшимся вопросам поддержал Ленина и определился как большевик.

Прозванный за лёгкость перехода границы Грачом, Бауман в 1903 году по поручению Ленина вернулся в Россию для борьбы с меньшевиками и организации большевистской подпольной типографии. В июне 1904 года арестован и 16 месяцев находился в Таганской тюрьме.

Фактической женой и соратницей Баумана по партии была Капитолина Павловна Медведева.

Бауман был убит 18 октября 1905 года работником фабрики Щапова Николаем Михалиным недалеко от главного здания Императорского московского технического училища, названного впоследствии в его честь, на углу Немецкой улицы (ныне — Бауманская) и Денисовского переулка.

Убийца - Николай Федотович Михалин, был уроженцем села Троицкого-Иванова Спасо-Ляпицкой волости Козловского уезда Тамбовской губернии, 29 лет от роду. По одним данным, он служил надзирателем мужских спален на фабрике Щапова; по другим — был рабочим фабрики Щапова; по третьей версии — служил у Щаповых дворником. Михалин отслужил 5 лет действительной военной службы в лейб-гвардии Конном полку в Петербурге, то есть был специально отобран в кирасиры-конногвардейцы за свои физические кондиции: рост не ниже 180 см и тёмные волосы (в лейб-гвардии Конный полк отбирали новобранцев-брюнетов). К тому же за пять лет службы Михалин выучился владеть холодным оружием — парадным кирасирским палашом и драгунской шашкой, — а в полковой школе для молодых солдат ему были привиты монархические взгляды, естественные для военнослужащих частей личной охраны государя-императора.

В день смерти Бауман с соратниками по Московскому комитету РСДРП собирался повести группу протестующих к зданию губернской Таганской тюрьмы под лозунгом «Разрушим русскую Бастилию!». Чтобы увеличить число участвующих в демонстрации, Бауман взялся «сагитировать» рабочих с ткацкопрядильной фабрики швейцарского фабриканта Фернанда Дюфурмантеля. С этой целью он схватил флаг с лозунгом «Долой самодержавие!», вскочил в пролётку и, стоя в ней, помчался по Немецкой улице, скандируя: «Товарищи, присоединяйтесь к нам! Долой царя! Долой самодержавие!». Поведение Баумана привлекло внимание Михалина, который выбежал наперерез пролётке с Бауманом возле дома Клюгина по Немецкой улице. В руках у Михалина был обрезок металлической трубы. По показаниям в суде свидетельницы Крутовой, когда Бауман крикнул: «Долой царя!», стоявший рядом с ней Михалин отреагировал словами: «как это „долой царя“, я ему пять лет верой и правдой…» — и бросился на Баумана.

По словам Михалина в суде, он вскочил в пролётку и начал вырывать флаг из рук Баумана. Завязалась борьба, в ходе которой Бауман достал браунинг и выстрелил в Михалина, однако Михалин успел нанести удар трубой по руке с пистолетом, избежав ранения. Во время стычки в пролётке Михалин нанёс Бауману ещё три удара трубой по голове. В ходе схватки Михалин был обстрелян спутниками Баумана, но ему удалось убежать, скрывшись за воротами фабрики Щапова. Сам Бауман в результате происшествия оказался убит. Это кардинально отличается от показаний участников демонстрации.

Бауман был похоронен 20 октября 1905 года в Москве, на Ваганьковском кладбище (59 уч.). Его похороны превратились в грандиозную демонстрацию, использованную большевиками для создания боевых дружин и подготовки вооружённого восстания.