Появление здания наметило явные противоречия в архитектуре тех лет и вызвало ярые споры среди архитекторов. Начиная с 1932 года, классическое направление в архитектуре всё заметнее давало о себе знать. Своим проектом  Жолтовский на практике противопоставил классику архитектуре авангарда. Дом на Моховой расколол архитектурный мир пополам. По воспоминаниям А. Щусева, Жолтовский говорил ему: "Я выступаю с классикой на Моховой, и если я провалюсь, то провалю принципы классики". В ходе творческой дискуссии дом был назван «гвоздем в гроб конструктивизма». Однако даже оппоненты вынуждены были признать высокое мастерство Жолтовского. Построенный дом на Моховой стал более важным аргументом в ходе творческой дискуссии, чем многие теоретические обоснования. Именно он положил начало нового этапа в развитии советской архитектуры.

Большой знаток архитектуры эпохи Возрождения и приверженец идей А.Палладио, при проектировании дома И.Жолтовский опирался на его Лоджию дель Капитаньо в Виченце. Тщательно продуманная композиция фасада решена в крупном композитном ордере, расположенном в ризалите здания. Фасад здания отодвинут от красной линии, заглубляя его цокольную часть. В основе конструкции дома — семиэтажный железобетонный каркас с ритмично расположенными широкими оконными проемами. Труднейшую задачу сочетать равномерную сетку семиэтажного жилого дома с членениями прототипа, в котором каждый из трех ярусов принципиально иной, Жолтовскому удалось решить как путем опускания подоконников почти до пола, так и прибегнув к тонированию остекления в местах, где видны были перекрытия. 

Сильно выступающий карниз, служит основанием для балкона седьмого этажа, переходящего и на боковые крылья фасада. Дом облицован искусственным камнем желтого тона. Великолепно продуманные детали, к сожалению, удалось воплотить не в полном объеме. Общую завершенность зданию должны были задать барельефы и скульптуры (В.Мухиной, И.Шадра и др.)

Дом включал разнообразные квартиры: от одно-до пятикомнатных. В верхних этажах были расположены двухуровневые квартиры. В каждой квартире была предусмотрена комната для прислуги. Жолтовский тщательно продумал интерьеры квартир вплоть до дверных ручек и оконных шпингалетов. Основные элементы оформления жилых комнат - это карнизы, наличники и двери. Все эти элементы по своим формам и приемам разительно отличаются от образцов, применяемых в обычной практике жилого строительства, потому как выполнены ручным путем. Высокое качество строительных и отделочных работ обеспечило присутствие Ивана Владиславовича на всех этапах строительства. 

Здание строилось для нужд Моссовета, уже активно шло распределение квартир, однако в 1933 были установлены дипотношения с США, поэтому дом был передан в ведение американского посольства. С конца 50-х годов дом занимало агентство «Интурист».