Основанный Капицей, этот институт стал местом нескольких ключевых открытий, удостоенных впоследствии нобелевских премий.
 

Петр Капица, проработавший с 1921 по 1934 год у великого Эрнеста Резерфорда, вернулся в СССР для участия в Менделеевском съезде. По решению секретной комиссии ЦК Политбюро Капицу не выпустили обратно в Великобританию, и он вынужден был продолжить свои исследования в Москве. Сама эта история стала большим научным и политическим скандалом, однако физик так и остался в «золотой клетке» вплоть до смерти Сталина и ухода со сцены партийных чиновников 1930-х.
 

Вернадский, например, заявил: «Если решение правительства не пускать в Англию не будет отменено, произойдет международный скандал. Английское Королевское общество, членом которого состоит Капица, примет все меры к тому, чтобы вернуть Капицу. Наука интернациональна, и никому не должно быть запрещено работать там, где он хочет, и на темы, которые он считает интересными». «По приказу творить нельзя. Капица откажется творить», - говорил Фаворский. Настроение академиков следующим образом суммировала справка НКВД: они «высказались в общем против принятого в отношении Капицы решения, считают недопустимым столь насильственное разлучение Капицы с его двумя детьми, живущими в Англии, получающими там воспитание, и разрушение его хорошо оборудованной лаборатории».
 

Ударными темпами были построены здания института на Ленинских Горах, на его обширной территории разместились не только научные здания, но и коттедж, где после смерти академика разместился его музей.
 

На знаменитые семинары Капицы и Ландау съезжались физики из многих городов и даже стран. Аспирант П.Л. Капицы Дэвид Шёнберг, приехавший поработать в ИФП из Кембриджа в 1937 г., писал: «Достопримечательностью московского института, позволявшей мне чувствовать себя там как дома, был семинар, очень похожий на кембриджский клуб Капицы. Главное отличие состояло в том, что здесь нам подавали русский чай и бутерброды с икрой, а не кофе и бисквиты, и в том, что кресла просторного кабинета Петра Леонидовича в Москве были мягче кембриджских. Однако и здесь была все та же стимулирующая атмосфера лишенных почтительности замечаний и оживленных споров».
 

Строительство (архитекторы П. Николаев, Б.М. Иофан, Е.Н. Стамо при участии Г.А. Асеева) велось с мая по декабрь 1935 года, еще более года у строителей ушло на устранение недоделок. Монтаж закупленного в Англии оборудования из лаборатории Резерфорда, закончили в июне 1936 г. Основные здания института решены в стилистике ар-деко — неоклассические формы геометризованы и упрощены, но общая объемная композиция тяготеет к классике. Портик главного входа фланкирован двумя корпусами, декора почти нет, за исключением квадратных колонн, квадратных же наличников окон и небольшого карниза.