В конце 1920 г. Мельникова пригласили преподавать на архитектурном факультете только что организованного Вхутемаса. Здесь вместе с И. А. Голосовым он возглавил один из трех потоков факультета. Это была «Вторая мастерская экспериментальной архитектуры», или «Новая академия», небольшая, но вполне самостоятельная по творческим установкам. Оба руководителя этой мастерской в собственных и учебных проектах того времени интенсивно искали новых путей в архитектуре, ее нового пластического и образного языка, исповедовали и разрабатывали теорию «архитектурного организма», решительно отказывались от ордерных архитектурных форм.
Первый общепризнанный успех принесло Мельникову участие в конкурсе на квартал показательных домов для рабочих по Серпуховской улице, в котором он среди нескольких десятков архитекторов единственный выступил с комплексно новаторским проектом. Тогда же выполненный второй конкурсный проект Дворца труда (оба в 1922—1923 гг.), хотя и не был премирован, подтвердил незаурядность и оригинальность таланта Мельникова. Пожалуй, Мельников был самым молодым из получивших заказ на самостоятельное проектирование павильона для Всероссийской сельскохозяйственной выставки 1923 г. Правда, павильон ему заказали очень скромный — один из множества отраслевых, предназначенных для показа работы и продукции махорочного синдиката.
Но павильон «Махорка» оказался архитектурным событием, и не только в рамках выставки. Мельников остроумно скорректировал предложенную функциональную программу, а в композиции исходил из убеждения, что выставочная архитектура должна быть обязательно образно новой и впечатляющей, должна выполнять роль важнейших «экспонатов» выставки. Архитектор расчленил здание на ряд самостоятельных объемов, контрастно сгруппировал их, накрыл разнонаправленными односкатными кровлями, консольно выдвинул верхний объем над опорами, противопоставив его массиву две ажурные формы — открытую винтовую лестницу и узкую застекленную шахту для транспорта.
Своей образной экспрессивностью павильон «Махорка» произвел огромное впечатление на современников. Он вообще оказался одним из самых первых примеров подлинного обновления языка архитектуры, тем более знаменательного, что постройка была выполнена в традиционнейшем и, казалось бы, уже не поддающемся какому- либо новому осмыслению материале,— в дереве.
В феврале 1924 г. Мельников по конкурсу получил право на почетнейшую работу: сооружение саркофага в еще только проектировавшемся и одновременно строившемся тогда временном (втором) Мавзолее В. И. Ленина. Это задание в сложных технических условиях и в сжатые сроки Мельников реализовал к открытию Мавзолея для посетителей летом 1924 г. Выполненный им саркофаг служил своему назначению в течение двух десятилетий, вплоть до послевоенной реконструкции интерьеров Мавзолея.
В том же 1924 г. Мельников, как архитектор с выраженным индивидуальным характером творчества, успешно участвовал в заказных конкурсах на проект московского здания для издательства «Ленинградская правда» на Страстной площади (ныне Пушкинская пл.), проект павильона СССР для Международной выставки декоративного искусства и художественной промышленности в Париже, а также получил эаказ на сооружение комплекса Ново-Сухаревского рынка (в квартале между Садовой-Сухаревской ул. и Б. Сухаревским пер.).
Победа в конкурсе на павильон СССР и последовавшая затем постройка павильона в Париже принесли Мельникову всемирную известность. Несмотря на то что павильон был выстроен из дерева (как, кстати, и Ново-Сухаревский рынок, как и советский торговый центр на выставке в Париже, и советский павильон на выставке 1926 г. в Салониках), т. е. в принципе был временным сооружением, он пережил сроки своего физического существования и прочно вошел в историю архитектуры. Единственным из сооружений Международной выставки декоративного искусства и художественной промышленности 1925 г. советский павильон был в 1926 г. повторно собран в Париже и в течение ряда лет использовался как рабочий клуб. В настоящее время подготавливается восстановление этого павильопа в парижском районе Ла Виллет как выдающегося памятника архитектуры XX в.
Советский павильон стал гвоздем Парижской выставки 1925 г. В нем наиболее полно выразилась мельниковская концепция выставочной архитектуры: соответствие экспозиционной функции и яркая «экспозиционная» выразительность самой архитектуры, полученная в результате совершенно оригинальной, тесно связанной при этом с конкретными функциональными и технико-экономическими условиями архитектурной композиции. Мельников охотно и весьма успешно работал для международных выставок, конкурсов и заказов, но это не противоречит заявленной вначале преимущественной работе Мельникова для Москвы. В этих случаях его увлекала патриотическая возможность творческого соревнования на самых высоких уровнях.
Основные творческие усилия Мельникова всегда были сосредоточены не на репрезентативных зданиях, а на композиционных и образных поисках решений сооружений с важнейшими жизненными функциями, преимущественно на новых типах сооружений. Он разрабатывал целые серии однотипных по функциям, но различно решаемых им по объемно-пространственным качествам и образной характеристике объектов. Так, решающее значение в его творчестве получили выставочные и близкие им по функциям объекты, клубы, гаражи и такая древнейшая, но перманентно обновляемая задача архитектуры, как жилье. Ко всем этим темам Мельников обращался неоднократно, а в отдельных случаях (особенно наглядно для клубов и гаражей) параллельно вел ряд объектов одинаковой функции.
В 1925 г. Мельникову был заказан проект гаража для Парижа вместимостью в тысячу машин. Он разработал два разных варианта: полупрозрачный стеклянный куб со стоянками в 10 этажей и поднятое над уровнем земли здание (на проекте был изображен вариант размещения гаражей над мостами через Сену) совсем особой пространственной конструкции, напоминающей огромные козлы, стянутые поверху висячим покрытием. Такие конструкции вошли в архитектуру лишь тридцатью годами позднее. Первым по времени оказалось здание Роли-арена в США, построенное в 1953 г.
Для Москвы Мельников построил два больших гаража для автобусов и грузовых автомобилей (1926—1929 гг., ул. Образцова, 19а, Новорязанская ул., 27). Это монументальные инженерные сооружения. У первого из них план имеет форму параллелограмма, а частые проемы ворот обусловили пилообразный контур стен. Архитектурные формы, их выразительная пластика и детали, оказывается, имеют органичную связь с глубоко проработанной автором моделью функционального процесса: Мельников предложил расстановку автобусов плотными пилообразными рядами, таким образом, чтобы любая машина могла занять свое место или, наоборот, могла быстро выехать из гаража, не мешая соседям, и, во-вторых, двигаясь только передним ходом. Такая система, в свое время тщательно отработанная и испытанная, была названа Мельниковым «прямоточной». К сожалению, в дальнейшем задуманная высокая культура эксплуатации перестала выдерживаться.
Гараж на Новорязанской улице имеет план в виде гигантской подковы. Автор считал, что этот план особенно удачно отвечает форме участка. Попутно со строительством Мельников разработал много других проектов-идей на тему гаража: сочетания подземной и наземной построек; гараж, растущий в несколько очередей; гараж с самыми различными формами плана, по-разному использующими возможности участка, и т. д.
В рассматриваемое время был популярен тезис функционалистов о том, что архитектурная форма должна следовать функции. Мельников своим творчеством постоянно полемизировал с автоматизмом и ограниченностью такого тезиса. В его работах архитектурная форма всегда особенно активно взаимодействует с функцией, и в то же время одинаковая функция никогда не обуславливает одинаковость формы. Напротив, одна и та же функция вписывается в разные объемно-пространственные формы.
Это особенно наглядно отразилось в облике клубов Мельникова. В 1927—1929 гг. он спроектировал семь различных клубов, из которых шесть были выстроены: клуб фабрики имени М. В. Фрунзе (Бережковская наб., 28), клубы имени И. В. Русакова (Стромынская пл., 10), «Каучук» (Плющиха, 64), «Буревестник» (3-я Рыбинская ул., 17), клубы фабрики «Свобода» (ныне Дворец культуры имени М. Горького, Вятская ул., 41) и фарфоровой фабрики в подмосковном городе Ликино-Дулево.