Московская консерватория была учреждена Русским музыкальным обществом (РМО), основанным в 1859 году в Петербурге и в Москве.

Истории возникновения Московской консерватории положило начало эпохальное решение пианиста, дирижера, композитора Николая Рубинштейна, возглавлявшего в то время Московское отделение РМО, создать специальную музыкальную школу – консерваторию. За основу были положены ранее созданные Рубинштейном частные музыкальные классы Московского отделения Императорского Русского музыкального общества.

В 1866 году, на базе именно этих классов, и открылась Московская консерватория, первым директором которой стал сам Николай Рубинштейн. Рубинштейну удалось привлечь к преподаванию блистательных отечественных и зарубежных музыкантов. Теорию музыки, к примеру, преподавал Петр Чайковский, класс фортепиано вел Иосиф Венявский, а скрипичному искусству обучали Фердинанд Лауб и композитор Людвиг Минкус. Первое время классы Московской консерватории находились в доме на углу Воздвиженки и Арбатского проезда. В 1876 году консерватория переехала в двухэтажный дом – бывший дворец князя Воронцова на Большой Никитской. В 1893 году было принято решение о сооружении нового, более вместительного здания на базе уже существующего. Проект реконструкции был разработан архитектором Василием Загорским. От старого здания оставили лишь фасадную стену главного корпуса с полу ротондой. Все остальное было разрушено и отстроено заново.

Закладка нового здания состоялась в 1895 году. Три года спустя был открыт Малый зал консерватории. В 1901 году состоялось торжественное открытие Большого зала. Огромную помощь в его строительстве оказали меценаты, братья Морозовы, которые взяли на себя оборудование и меблировку зала. Уникальный орган, до сих пор украшающий Большой зал, в Париже заказал предприниматель фон Дервиз. Миллионер-сахарозаводчик Харитоненко подарил ковры. В честь открытия был дан праздничный концерт, первым номером которого была исполнена увертюра к опере Михаила Глинки "Руслан и Людмила".

Стены Большого зала Консерватории украшают 14 портретов-медальонов классиков русской и западноевропейской музыки. Над сценой висит медальон-барельеф Николая Рубинштейна, основателя Московской консерватории. Вместимость зала составляет порядка 1, 800 мест. На сцене могут одновременно разместиться оркестр в 130 человек и хор численностью до 250 человек.

В Большом зале консерватории выступали такие выдающиеся музыканты и певцы, как Сергей Рахманинов, Александр Скрябин, Александр Зилоти, Николай Метнер, Федор Шаляпин.

В 1912 году в здании консерватории открылся музей имени Николая Рубинштейна, - первый музыкальный музей в России. В 1943 году на его базе создали Музей музыкальной культуры имени М. И. Глинки. В коллекции Музея имени Николая Рубинштейна собраны не только книги и ноты, но и личные вещи, предметы мебели, фотографии, афиши, буклеты, аудио- и видеоматериалы, живописные и скульптурные портреты выдающихся музыкантов, исторические фотографии и документы.

Московская консерватория – единственное в мире высшее музыкальное заведение, в стенах которого находятся концертные залы национального уровня и значения. По своим акустическим характеристикам и интерьерным решениям, залы консерватории признаны лучшими в мире.

В мае 1940 году, в честь столетия со дня рождения Петра Ильича Чайковского, Московской консерватории было присвоено его имя. В 1954 году перед зданием консерватории был установлен памятник П.И. Чайковскому работы Веры Мухиной.

С 1958 года в Московской консерватории каждые четыре года проходит Международный конкурс имени Чайковского.

Московская консерватория – это еще и колоссальный архив музыкальных ценностей России: научно-музыкальная библиотека им. С.И. Танеева входит в число пяти крупнейших музыкальных библиотек мира и обладает наиболее полным собранием русской музыки. Её фонды насчитывают более полутора миллионов единиц хранения, в том числе уникальные нотные и книжные издания.

Среди знаменитых выпускников Московской консерватории пианисты – Генрих Нейгауз, Эмиль Гилельс, Святослав Рихтер, Владимир Ашкенази, Михаил Плетнев; скрипачи Давид Ойстрах, Леонид Коган, Владимир Спиваков, Гидон Кремер; виолончелисты Мстислав Ростропович, Наталия Гутман, Александр Рудин; певцы – Зураб Соткилава, Ирина Архипова, Елена Образцова, Галина Вишневская; композиторы – Петр Чайковский, Сергей Танеев, Сергей Рахманинов, Александр Скрябин, Дмитрий Шостакович, Эдисон Денисов, Альфред Шнитке, София Губайдулина; дирижеры Евгений Светланов и Геннадий Рождественский.