Сталин был склонен верить в англо-французский заговор не только в силу своей личной склонности к теории «заговоров», но и в силу получаемой им разведывательной информации. Большая часть легальных резидентов и нелегалов была уничтожена или, как в редких случаях с Орловым и Кривицким, перешла на другую сторону. Некоторые резидентуры НКВД, например, в Лондоне, а также те, кому перебежать не удалось, искали спасения в раболепной формуле «угадать, угодить, уцелеть». От ИНО все сильнее требовали предоставлять разведывательную информацию, которая бы поддерживала теорию «тайных замыслов», в которую верило советское руководство. Те же, кто не мог обеспечить доказательства англо-французских попыток спровоцировать войну между Россией и Германией, рисковали вызвать подозрения в сговоре с империалистами. Новое поколение аппаратчиков, которое пришло на смену репрессированным глобально мыслящим агентам ИНО, в большинстве случаев не имело достаточного опыта поведения в совершенно другом мире и старалось сделать себе карьеру, демонстрируя способность обнаруживать и ликвидировать воображаемые контрреволюционные заговоры.

После смерти Абрама Слуцкого (возможно, он был и отравлен) в феврале 1938 года его заместитель Михаил Шпигельглас стал исполняющим обязанности руководителя ИНО. Сам Шпигельглас руководил тайными операциями за линией окопов республиканской армии в Испании и организовал убийство в Швейцарии одного из перебежчиков, Игнатия Райсса. Позднее еще один перебежчик, Владимир Петров, вспоминал Шпигельгласа как человека жестокого, но в то же время «корректного, вежливого, делового, обладающего гибким умом и ловкими движениями». Как и Слуцкий, Шпигельглас был евреем. Через несколько месяцев его тоже ликвидировали. Когда Берия прибыл в Москву в июле 1938 года в качестве будущего преемника Ежова, он привез с собой своего грузинского «оруженосца», Владимира Георгиевича Деканозова, который и стал новым главой ИНО. Ростом чуть выше метра пятидесяти, с маленьким птичьим носом и несколькими прядями черных волос на голове, прикрывавшими заметную лысину, Деканозов был невзрачным на вид. Но многочисленные смертные приговоры, которые он направо и налево раздавал на Кавказе в начале 1920-х годов, заслужили ему репутацию «бакинского вешателя», которая впоследствии была усилена его кровожадными действиями во время «Великого Террора» в качестве заместителя председателя Совета Народных Комиссаров Грузии. Деканозов не обладал опытом в международных делах и был первым руководителем ИНО, который ни разу не был за пределами Советского Союза. Однако он сыграл гораздо более значительную роль в советской внешней политике, чем кто-либо из его более опытных предшественников. За два года он вырос до заместителя наркома иностранных дел, а затем стал послом в Берлине.

Поток разведывательной информации от Деканозова к Берии и Сталину после Мюнхена может быть оценен, исходя из мифической версии переговоров британского премьера Невилла Чемберлена в Риме в январе 1939 года, которой склонна была верить Москва. Литвинов говорил польскому послу, что «он получил информацию из надежного источника о том, что якобы Чемберлен в ходе своих бесед пытался затронуть „украинский вопрос“, что позволяло думать, будто Великобритания не станет рассматривать в неблагоприятном свете устремления Германии в этом направлении.» Москва была так убеждена в этом дополнительном свидетельстве попыток Великобритании подтолкнуть Гитлера к» нападению на Россию, что один из заместителей Литвинова и три месяца спустя в беседе с послом Италии продолжал клеймить мифический заговор Чемберлена.

Как раз когда данным внешней разведки НКВД можно было меньше всего доверять, ее влияние на формирование советской внешней политики было огромным. Каналы НКВД использовались для подготовки секретных переговоров с Финляндией в 1938 году и с Германией в 1939 году. Чистка дипломатов, якобы заклеймивших себя контрреволюционными или прозападными симпатиями, проводилась НКВД в течение всего 1938 года и продолжилась в 1939 году. Один из дипломатов, переживших это время, позднее вспоминал: «Зачастую случалось, что, договорившись встретиться с кем-то из коллег для обсуждения некоторых вопросов, на другой день обнаруживаешь, что он больше не работает в Наркоминделе — он уже арестован.» Самые сильные подозрения у Берии и Сталина вызывали дипломаты, обладавшие наибольшим опытом и пониманием Запада. Аресты затронули и руководство Наркоминдела. Бывший заместитель наркома иностранных дел Н.Н. Крестинский оказался одним из «врагов народа», которого приговорили к расстрелу на процессе так называемого «право-троцкистского блока», открывшегося в феврале 1938 года. Напряжение, с которым работал один из заместителей наркома иностранных дел, Борис Спиридонович Стомоняков, было столь велико, что коллеги часто видели Стомонякова с обернутым вокруг головы мокрым полотенцем, чтобы снять постоянно мучившие его головные боли. В конце рабочего дня он долго стоял под холодным душем. Но, как и Крестинский, он был расстрелян.

Дни и самого Литвинова в качестве наркома иностранных дел были сочтены после Мюнхена и дискредитации политики коллективной безопасности. Молотов позднее говорил, что «были близорукие люди и в нашей стране, которые, поддавшись вульгарным антифашистским эмоциям, забыли о провокационной работе наших (западных) союзников.» Прежде всего он подразумевал Литвинова, который, как он предполагал, увлекшись химерой коллективной безопасности, сыграл на руку британским и французским «правящим кругам», которые тайно пытались подтолкнуть Гитлера к нападению на Советский Союз. В апреле 1939 года Литвинов сделал последнюю попытку воплотить систему коллективной безопасности в реальность, предложив начать переговоры с Великобританией и Францией для заключения пакта о взаимопомощи против «агрессии в Европе». В тот же самый день, однако, советский посол в Берлине позвонил во внешнеполитическое ведомство Германии и предложил начать переговоры об улучшении советско-германских отношений. Представляется, что переговоры, которые впоследствии привели к заключению нацистско-советского пакта, направлялись скорее по каналам НКВД, а не дипломатии. Литвинов, будучи евреем по национальности и проповедником системы коллективной безопасности, был очевидным препятствием на пути переговоров с Германией. 4 мая было объявлено, что Молотов заменил Литвинова на посту наркома иностранных дел. Вскоре после этой перемены заместителями наркома иностранных дел были назначены Деканозов и Лозовский, бывший руководитель Профинтерна. Хотя Литвинов, в отличие от своих бывших заместителей, пережил чистки, для искоренения оставшихся «литвиновцев» внутри комиссариата под началом Молотова была создана группа «лучших из лучших», в которой первые скрипки играли Берия и Деканозов. Молотов и Берия носили обычные костюмы, а Деканозов появлялся в форме НКВД. Один за другим сотрудники комиссариата представали перед этим «триумвиратом», пытаясь доказать, иногда безуспешно, что они никак не связаны с врагами народа.