При поддержке Сталина Ежов всерьез развернул наступление на правый уклон, Бухарина и его соратников. После февральско-мартовского пленума 1937 года начались массовые репрессии внутри партии. Под руководством Сталина Ежов провел и чистку командного состава Красной Армии. В 1937 году на июньском пленуме ЦК он в общих чертах обрисовал широкомасштабный заговор против партийного руководства, в котором участвовали троцкисты, зиновьевцы, правые уклонисты, работники коминтерновского аппарата, Тухачевский и его приспешники из рядов Красной Армии, а также Ягода и его единомышленники из НКВД. По словам Ежова, сети заговора проникли и в низовые эшелоны. Поскольку были ликвидированы только вожаки, это был сигнал к началу большой чистки.
С этой целью с июля 1937 года были введены «массовые операции» с их «лимитами» и «национальными контингентами». Без сомнений, Большой террор был тщательно продуман Сталиным и его штабом. По указанию Сталина и Политбюро Ежов запланировал арест почти 270 тысяч человек, из которых 76 тысяч подлежали немедленному расстрелу с проведением их дел через тройки. Во исполнение этого плана региональным властям были спущены разнарядки на аресты и расстрелы. В ответ полетели запросы на повышение «лимитной» планки, что только приветствовалось руководством центра. Первоначально установленный четырехмесячный срок был значительно превзойден. За последующие месяцы Политбюро утвердило аресты еще свыше 180 тысяч человек, из которых 150 тысяч были обречены на расстрел. Ежов утвердил арест еще около 300 тысяч человек — без формальных санкций Политбюро и, очевидно, согласовав это со Сталиным. Итого при проведении операции во исполнение приказа № 00447 с августа 1937 года по ноябрь 1938 года тройками было осуждено 767397 человек, в том числе 386798 — к ВМН.
Кроме того, тысячи людей пострадали в ходе «национальных операций» против поляков, немцев, харбинцев, латышей, эстонцев, финнов, румын, греков, афганцев, иранцев, китайцев, болгар, македонцев и людей с ними связанных. При проведении национальных операций было охвачено почти 350 тысяч человек, в том числе почти 250 тысяч приговорены к высшей мере и 90 тысяч — к заключению. Сталин подписал 383 списка на осуждение, поданных Ежовым, в которых содержались имена свыше 44 тысяч государственных и партийных функционеров; почти 39 тысяч из них были приговорены к высшей мере. Другой целью был аппарат Коминтерна и зарубежные коммунистические партии. Свыше 7 тысяч командиров Красной Армии были осуждены за контрреволюционную деятельность, арестованы более 2 тысяч работников госбезопасности. С августа по октябрь 1937 года более 170 тысяч корейцев подверглись депортации из пограничных районов на Дальнем Востоке. Арестованы более 18 тысяч жен «врагов народа» и около 25 тысяч детей лишились опеки родителей. За пределами границ Советского государства, в Монгольской Народной Республике по указанию московского Политбюро в период между 1937–1939 годами были проведены массовые аресты (арестовано около 25 тысяч человек) и местной тройкой 20 тысяч человек приговорены к расстрелу. В результате за 1937–1938 годы за контрреволюционную деятельность и другие преступления против государства были арестованы более 1,5 млн. человек, из которых почти 700 тысяч расстреляны. По приказу Ежова и при его личном участии заключенных подвергали пыткам, заставляя их «признаться»; применение пыток было санкционировано Сталиным и Политбюро.
В 1937 году авторитет Ежова достиг апогея. В апреле, хотя он и не был членом Политбюро, он вошел в «пятерку» лидеров, которая осуществляла фактическое руководство от имени Политбюро. Летом ему также было вверено руководство военной разведкой. В октябре Ежов был введен кандидатом в состав Политбюро. Весной 1938 года карьера Ежова покатилась под уклон. В апреле того же года круг его обязанностей пополняется должностью наркома водного транспорта. В июне — июле выявляется предательство двух крупных работников НКВД, Люшкова и Орлова; Ежов не спешит доложить об этом Сталину, навлекая на себя недоверие вождя. В августе Сталин назначает Лаврентия Берию заместителем наркома внутренних дел с видом на дальнейшее его выдвижение в качестве преемника Ежова. Очевидно, к тому времени вождь решил избавиться от Ежова. С сентября по ноябрь 1938 года был арестован ряд сподвижников Ежова и людей из его окружения; под прицел попадает также его жена, которая в ноябре с помощью Ежова совершает самоубийство.
После установления контроля над чисткой в партии в январе 1938 года Сталин в середине ноября того же года подписывает постановление, содержащее критику методов, которыми пользуется НКВД. Массовым операциям положен конец. Через неделю Ежов посылает Сталину письмо с просьбой об отставке. Отставка принята, вместо него главой госбезопасности назначается Берия. После 23 ноября Сталин больше не принимает Ежова. Но петля еще не затянута. Ежову пока оставили пост наркома водного транспорта, и 21 января 1939 года он все еще неподалеку от Сталина на траурной церемонии в память о Ленине. В проекте акта о передаче полномочий по руководству НКВД от 29 января вычеркивается, очевидно, по указанию Сталина, предложение рассмотреть вопрос о партийности Ежова. В тот же день Ежов еще присутствует на заседании Политбюро, но это заседание становится для него последним. Он не был избран делегатом на XVIII съезд партии, состоявшийся в марте 1939 года, выступить на котором ему тоже не дали. После жесткой критики Сталиным Ежова не переизбрали в состав ЦК. После съезда его лишили всех партийных должностей. В апреле последовал арест Ежова. Он не смог вынести пыток и во время следствия признался во всем: в шпионаже, во вредительстве, в заговорщической деятельности, в терроризме, в содомии. 3 февраля 1940 года над ним состоялся суд при закрытых дверях; Ежов был приговорен к высшей мере наказания. На следствии, как и на суде, он клялся в безграничной преданности Сталину; он заявил, что будет умирать с именем Сталина на устах. Ежова расстреляли 6 февраля.
Был ли Ежов более или менее самостоятельной фигурой или орудием в руках Сталина? Существует много документальных свидетельств, что во время Большого террора деятельность Ежова тщательно контролировалась и направлялась Сталиным. Сталин редактировал основные документы, подготавливаемые Ежовым, и осуществлял надзор за расследованиями и проведением политических процессов. Например, во время следствия по делу Тухачевского Сталин встречался с Ежовым почти ежедневно. Из журнала регистрации посетителей явствует, что в 1937–1938 годах Ежов посещал кремлевский кабинет Сталина 278 раз и провел в нем суммарно 834 часа. Чаще встречался со Сталиным только Молотов{818}. Как пишет О.В. Хлевнюк, «Ежов вряд ли мог претендовать на роль организатора “Большого террора”, самостоятельного политического деятеля, в сколько-нибудь серьезной мере предопределявшего размах и направление чистки. Ежов был старательным исполнителем воли Сталина, действовал в рамках четких указаний “сверху”. Неизвестно ни одного факта, который хоть в какой-то мере свидетельствовал бы, что Ежов вышел из-под сталинского контроля. От дел Ежов был отстранен в тот момент, который счел целесообразным сам Сталин»{819}. В момент наивысшей славы Ежова назвали «сталинским питомцем». Наверное, в этом и заключался особый дар Сталина — умение превратить исполнительного и простоватого партийного функционера в настоящего злодея и палача, заурядного деятеля в фигуру вселенского масштаба. Как-то Сталин сказал о том, что кадры надо выращивать так же заботливо, как садовник выращивает деревце. И действительно, Ежова Сталин рано окружил заботой, беспокоился о его здоровье, продвигал все выше и выше. В сталинском питомнике Ежов занял особое место. На период его руководства НКВД приходится беспрецедентно огромное число народных жертв. Уж, что-что, а злодеев растить Сталин умел.
И нет никаких указаний на то, что Ежов когда-либо вышел за рамки роли сталинского орудия. После его падения выяснилось, что вразрез с принятой процедурой он собирал компромат на многих ответработников НКВД и партийных органов, не информируя об этом Сталина. Среди бумаг, конфискованных во время его ареста, был даже материал на самого Сталина — дореволюционные донесения жандарма тифлисской полиции и квитанции почтового отделения в Туруханске. Однако это необязательно означает, что Ежов собирал материал с целью доказать принадлежность Сталина к агентуре царской охранки. Эти материалы могли быть предназначены для музея Сталина.