Почти одновременно с Маленковым Сталин выдвинул на самые ответственные посты в партийном аппарате и Н. И. Ежова. Ежов стал секретарем ЦК ВКП(б) и занял вместо Кагановича пост председателя Комиссии партийного контроля. Между Ежовым и Кагановичем началась скрытая вражда из-за влияния на Сталина, которую последний только поощрял. Маленков, хотя не был еще членом ЦК, принял сторону Ежова и вскоре стал одним из его ближайших друзей, тогда как с Кагановичем у него сложились теперь крайне неприязненные отношения. Под руководством Ежова и при активном участии Маленкова в первой половине 1936 года в стране была проведена проверка партийных документов. Фактически это была еще одна «чистка» партии и канцелярская подготовка террора. На каждого члена партии заводилось весьма подробное «личное дело».

Если Сталин был главным организатором и вдохновителем массового террора 1937—1938 годов, то Ежов – главным исполнителем этой страшной кровавой кампании. Именно Ежов был назначен в 1936 году наркомом внутренних дел СССР, возглавил карательные органы, которым предоставлялись чрезвычайные полномочия по выявлению, изоляции и уничтожению тех людей, которых стали теперь называть «врагами народа». Маленков действовал в тени, но именно он был одним из тех, кто под руководством Сталина приводил в движение наиболее важные тайные пружины террора. В книге «Крушение поколения» И. Бергер, однако, писал: «Маленков в отличие от Молотова и Кагановича не нес прямой ответственности за сталинский террор 30-х годов» (Бергер И. Крушение поколения. С. 294.). Это мнение ошибочно. Формально Маленков не входил тогда ни в какие руководящие государственные органы. Он присутствовал в качестве делегата на XVII съезде партии, но не был избран ни членом, ни кандидатом в члены ЦК ВКП(б), не вошел он и в комиссии партийного и советского контроля и даже в Центральную Ревизионную Комиссию. Формально он не участвовал, таким образом, даже в Пленумах ЦК, включая и февральско-мартовский Пленум 1937 года. И тем не менее, находясь во главе отдела руководящих парторганов ЦК, Маленков играл в событиях 1937—1938 годов не менее важную роль, чем Ежов, Берия, Каганович и Молотов. Наделенный чрезвычайными правами, Маленков руководил репрессиями не только в тиши своего кабинета, но и непосредственно на местах, в различных республиках и областях. Было немало случаев, когда он лично присутствовал на допросах и пытках арестованных партийных руководителей. Так, например, Маленков вместе с Ежовым выезжал в 1937 году в Белоруссию, где был учинен настоящий разгром партийной организации республики. Осенью этого же года Маленков с Микояном побывали в Армении, где также был репрессирован почти весь партийный и советский актив этой республики. При участии Маленкова составлялся план репрессий во всех областях РСФСР, затем в его отделе подбирали новые кандидатуры секретарей обкомов и горкомов на место арестованных и расстрелянных.

Чтобы замаскировать масштабы террора, в январе 1938 года в Москве был проведен Пленум ЦК, который рассмотрел вопрос «Об ошибках парторганизаций при исключении коммунистов из партии…». На этом Пленуме присутствовали всего 28 из 71 члена ЦК, избранного на XVII съезде партии. Лишь несколько человек с тех пор умерло, тогда как почти сорок человек было к тому времени арестовано. Характерно, что Пленум обсуждал доклад Маленкова, который формально не был членом ЦК. Январский Пленум ЦК не остановил массовых репрессий, которые еще много месяцев свирепствовали по всей стране.

В 1937—1938 годах Маленков работал в постоянном контакте с Ежовым. В журнале «Партийное строительство», который некоторое время редактировался Маленковым, мы можем найти множество восхвалений Ежова – «сталинского наркома», «верного стража социализма». Но Маленков не разделил судьбы Ежова и с конца 1938 года стал тесно сотрудничать с Л. П. Берией, сменившим Ежова на посту главы НКВД.

По существу, только в 1939 году Маленков начинает выходить из тайных кабинетов власти и появляться на открытой политической арене. На XVIII съезде ВКП(б) Маленков возглавил мандатную комиссию и сделал на пятом заседании съезда доклад о составе съезда. Он был избран в члены Центрального Комитета ВКП(б), а на Пленуме ЦК 22 марта 1939 года – секретарем ЦК. В этот Секретариат, возглавляемый Сталиным, вошли также А. А. Андреев и А. А. Жданов. С тех пор Маленков неизменно входил в состав этого органа ЦК, который в повседневном практическом руководстве партией играл при Сталине, пожалуй, даже большую роль, чем Политбюро. Маленков был избран также членом Оргбюро ЦК. Отдел руководящих партийных органов ЦК был реорганизован в Управление кадрами ЦК ВКП(б), во главе которого по-прежнему оставался Маленков.

Постепенно стал расширяться круг проблем, которыми теперь занимался Маленков как секретарь ЦК. Ему было поручено, например, контролировать развитие промышленности и транспорта. Когда в феврале 1941 года состоялась XVIII Всесоюзная конференция ВКП(б), посвященная хозяйственным проблемам и итогам выполнения первых лет третьего пятилетнего плана то главный доклад на ней о задачах промышленности и транспорта сделал Маленков. Тогда же состоялся Пленум ЦК, на котором Маленков был избран кандидатом в члены Политбюро. Он занял отныне прочное место в ближайшем окружении Сталина.

Когда началась Отечественная война, Маленков, к удивлению многих, вошел в первый же состав Государственного Комитета Обороны, хотя он не был еще в то время полноправным членом Политбюро. В первые два года войны Маленкову приходилось выезжать во главе специальных комиссий на участки фронта, где создавалась угрожающая ситуация. В августе 1941 года он находился в Ленинграде, осенью того же года – на фронте под Москвой, в августе 1942 года как член ГКО прибыл в Сталинград – помочь в организации обороны города. Но постепенно Маленков перестал принимать участие в решении чисто военных вопросов и сосредоточился на отдельных проблемах военно-оборонного производства. Его главной задачей стало оснащение Красной армии самолетами. Как известно, после огромных потерь советской авиации в первые недели войны германская армия имела превосходство в воздухе до конца 1942 года. Однако соотношение сил стало меняться в 1943 году. Советская промышленность сумела обеспечить отечественные ВВС большим количеством современных машин, и уже к моменту сражения на Курской дуге превосходство в воздухе стало переходить к Красной армии. Определенные заслуги в налаживании производства самолетов были и у Маленкова, в связи с чем ему было присвоено в сентябре 1943 года звание Героя Социалистического Труда. Осенью того же года Маленков возглавил Комитет при СНК СССР по восстановлению хозяйства в районах, освобожденных от оккупации.

В 1944 году, когда победа СССР над Германией вполне определилась, в ЦК ВКП(б) было проведено под руководством Маленкова специальное идеологическое совещание. На этом совещании ставился вопрос о пересмотре отношения к немецкому классическому наследию. Было, в частности, принято решение «О недостатках и ошибках в освещении истории немецкой философии конца XVIII – начала XIX вв.». Совещание продолжалось несколько дней. Как раз тогда Сталин и высказал свою многозначительную по форме, но нелепую по содержанию мысль о том, что немецкая классическая идеалистическая философия была консервативной реакцией на французскую революцию. Сталин добавил также, что для немецких философов были характерны апологетика прусской монархии и третирование славянских народов. Было решено сохранить присужденную ранее Сталинскую премию только за первыми двумя томами «Истории философии» и изъять третий том, посвященный немецкой классической философии.

Осенью того же 1944 года Сталин созвал в Кремле расширенное совещание, на которое были приглашены члены Политбюро и Секретариата ЦК, первые секретари республиканских и областных комитетов партии, руководители оборонной промышленности, армии и государственной безопасности. Речь шла о «еврейской проблеме». В своем вступительном слове Сталин – правда, с некоторыми оговорками – высказался за «более осторожное» назначение евреев на руководящие должности в государственных и партийных органах. Каждый из участников совещания понял, однако, что речь идет о постепенном вытеснении лиц еврейской национальности с ответственных постов. Наиболее подробным на этом совещании было выступление Маленкова, который обосновывал необходимость «повышения бдительности» по отношению к еврейским кадрам. Вскоре после совещания в ЦК ВКП(б) партийные комитеты различных уровней получили подписанное Маленковым директивное письмо, которое тогда в партийных кругах называли «маленковским циркуляром». В нем перечислялись должности, на которые назначение людей еврейской национальности было нежелательно. Одновременно вводились и некоторые ограничения при приеме евреев в высшие учебные заведения.