Одновременно он видел в слушателях «Совещания по вопросам внутренней и международной политики» смену для высшего руководства партии: «Эти товарищи должны дать не одну, а несколько смен, могущих заменить руководителей Центрального комитета нашей партии». В своем заключительном слове он пояснял: «Мы, старики, члены Политбюро, скоро отойдем, сойдем со сцены. Это закон природы. И мы хотели бы, чтобы у нас было несколько смен».
Фактически Сталин объявлял вакантными все руководящие должности в партии – от «унтер-офицерских» до «маршальских» – и объявлял конкурс на эти должности: минимум три кандидата на место.
Таким образом, Сталин выдвинул программу обновления партии, все еще отягощенной устаревшим идейно-политическим наследием (отрыв от народных масс и как следствие – приоритет мировой революции и недооценка роли рабочего класса России и национальных интересов страны).
Он уже не раз выражал свое недовольство партийными кадрами, указывал на невежество и непорядочность тех, кто вообразил себя бессменными и полноправными хозяевами республик, областей, городов, ведомств и управлял ими как своими вотчинами. Теперь он решил положить этому конец и фактически объявил о продолжении «революции сверху» путем перетряски правящего слоя страны.
Распространение революционных преобразований на партийное руководство вызвало неоднозначную реакцию в его рядах. Для деятельных и амбициозных членов партии такой конкурс означал возможность быстрого продвижения по служебной лестнице. Но многие руководители на разных уровнях (от «унтер-офицерского» до «маршальского») восприняли эту программу Сталина как смертный приговор их карьерам.
Неудивительно, что в марте 1937 года резко обострилась закулисная внутриполитическая борьба. И против Сталина несомненно было настроено немало видных деятелей в партийном и военном руководстве страны. Сведения, которыми располагало руководство Германии, позволили Паулю Кареллу утверждать, что «в марте 1937 года соперничество между тайными агентами Тухачевского и Сталина обострялось и становилось все более драматичным». Но Тухачевский не выступил в марте потому, считает Карелл, что в это время «каждый шаг офицеров Генерального штаба и командующих округами, штабы которых были размещены на десятки тысяч километров друг от друга, было трудно координировать. К тому же усиленное наблюдение за ними со стороны НКВД заставляло их действовать с максимальной осторожностью».
Однако в это время в самом наркомате внутренних дел проходили чистки. В марте 1937 года Ежов направил почти всех руководителей отделов НКВД, остававшихся еще на своих постах со времен Ягоды, для проведения инспекций на местах. Как утверждал Р. Конквест в своей книге «Великий террор», все они «были арестованы на первых же станциях после выезда за пределы Москвы и доставлены в тюрьмы. Через два дня тот же трюк был применен в отношении всех заместителей руководителей отделов. Одновременно Ежов сменил охрану НКВД на всех наиболее важных постах». 18 марта Ежов, выступая перед коллективом центрального аппарата НКВД, объявил Ягоду преступником, и 3 апреля тот был арестован. Аресты бывших сотрудников Ягоды также продолжались. Р. Медведев утверждает, что «не менее десяти – пятнадцати видных работников НКВД покончили жизнь самоубийством». Называя фамилии тех, кто был арестован или покончил жизнь самоубийством, Рыбин утверждал, что многие из них участвовали в заговоре Ягоды: «Аресты Ягоды, Агранова, Паукера, Воловича и Гинцеля проходили на моих глазах. Комендант Кремля комиссар Талкун, подчиненный непосредственно Ягоде, застрелился. Комиссар Даген был арестован, комиссар Курский застрелился, капитан Черток, порученец Ягоды, бросился в седьмого этаже и разбился насмерть. Затем исчезли Панов, Тихонов, Козлов и Голубев. Словом, весь наш командный состав разных рангов».
Одновременно с чисткой в НКВД было продолжено наступление Москвы против украинского руководства. 17 марта Постышев был освобожден от должности второго секретаря ЦК КП(б)У и избран первым секретарем Куйбышевского обкома партии. В Киеве развертывалась кампания против «небольшевистских методов работы» Постышева. Тем временем в Западной Европе стали широко распространяться слухи о том, что в Москве готовится военный переворот. В «Бюллетене оппозиции» Троцкий писал, что «недовольство военных диктатом Сталина ставит в повестку дня их возможное выступление». 9 апреля 1937 года начальник ГРУ Красной Армии С. Урицкий сообщил Сталину и Ворошилову о том, что в Берлине ходят слухи об оппозиции советскому руководству среди военачальников страны, правда, отметил, что в эти слухи мало верят. Не исключено, что эта информация ГРУ заставила участников заговора спешить. По словам Карелла, на 1 мая 1937 года было назначено выступление. Выбор дня переворота был обусловлен главным образом тем, что «проведение первомайского военного парада позволяло бы ввести военные части в Москву, не вызвав подозрений». Однако в развитие событий вмешались внешнеполитические обстоятельства.
Создается впечатление, что из материалов Скоблина гестапо сначала делало выводы лишь в той степени, в какой они касались текущих внешнеполитических проблем Германии. Посланник Чехословакии в Берлине Мастный в январе 1937 года с тревогой сообщил президенту своей страны Бенешу о том, что немцы утратили интерес к переговорам с Чехословакией о решении спорных вопросов, потому что ожидают в ближайшее время резких перемен в советской внешней политике после государственного переворота в СССР. В случае прихода к власти в Москве прогерманских сил Чехословакия не могла уже рассчитывать на поддержку СССР, с которым была связана договором о взаимной помощи 1935 года.
7 июля 1937 года Бенеш встретился с советским полпредом Александровским. Согласно записи их беседы, Бенеш с января 1937 года «получал косвенные сигналы о большой близости между рейхсвером и Красной Армией. С января он ждал, чем это закончится. Чехословацкий посланник Мастный в Берлине является исключительно точным информатором… У Мастного в Берлине было два разговора с выдающимися представителями рейхсвера… Бенеш даже сомневается, сознавали ли эти представители рейхсвера, что они выдают секрет. Но для Бенеша из этих разговоров стало ясно, что между рейхсвером и Красной Армией существует тесный контакт. Бенеш не мог знать о том, что этот контакт с изменниками. Для него возникала проблема, что делать, если Советское правительство действительно вернется к какой-нибудь политике «нового Рапалло». В этой связи Бенеш задал риторический вопрос, где средство для защиты Чехословакии, и без обиняков отвечал, что тогда Чехословакия тоже должна была бы заключить соглашение с Германией. Это было бы началом чехословацкой зависимости, но другого выхода не было».
Тем временем в Германии сделали более глубокие выводы из материала, полученного от Скоблина. Руководителям гестапо стало ясно, что союз военных СССР и Германии, который создан в тайне от германского правительства, чреват угрозой и для нацистского режима. Гестапо было в курсе заговорщической деятельности среди немецких военачальников, которая едва не увенчалась военным переворотом в конце сентября 1938 года. (Те же силы и организационные связи военных были впоследствии задействованы в попытке переворота 20 июля 1944 года.) Победа военных в СССР при поддержке германских военных могла в дальнейшем привести к тому, что в случае военного переворота в Германии его организаторы могли рассчитывать на прямую или косвенную помощь из Москвы. Поэтому было решено помешать успеху заговорщиков в СССР и изолировать их от германских военных. В. Шелленберг писал, что, получив от гестапо сведения о заговоре военных двух стран, «Гитлер распорядился о том, чтобы офицеров штаба германской армии держали в неведении относительно шага, замышляемого против Тухачевского».
По словам В. Шелленберга, переданный Скоблиным «материал не был полным и в нем не содержалось никакого документального доказательства активного участия руководителей германской армии в заговоре Тухачевского». Наверное, ничего другого и не могло быть, так как речь шла лишь о «пакте о ненападении» в момент государственного переворота. Понимая недостаточность имевшихся данных, Гейдрих, по словам Шелленберга, «сам добавил сфабрикованные сведения с целью компрометации германских генералов». Однако вскоре к этим фабрикаииям Гейдрих решил добавить подлинные материалы. Примерно 1-3 марта «Гейдрих послал две специальные группы взломать секретные архивы Генерального штаба и абвера, службы военной разведки, возглавлявшейся адмиралом Канарисом… Был найден и изъят материал, относящийся к сотрудничеству германского Генерального штаба с Красной Армией. Важный материал был также найден в делах адмирала Канариса. Для того чтобы скрыть следы, в нескольких местах устроили пожары, которые вскоре уничтожили всякие признаки взлома».