Оставшиеся на воле оппозиционеры выступали на фабриках и заводах, обращались прямо к рабочим, излагали свою социально-экономическую альтернативу. ЦК все время возвращался к опасности «контрреволюционного троцкизма», связанной с агитацией и распространением листовок на заводах. Осенью 1928 года Политбюро ЦК ВКП(б) заявило о необходимости усилить меры в отношении «подпольных антипартийных и антисоветских группок, особенно когда они вносят элементы разложения в рабочую среду»59.

Главным орудием борьбы сталинского руководства с оппозицией стало ОГПУ. В борьбе с оппозиционным подпольем, заявляло руководство ОГПУ, «мы должны рассматривать оппозиционные фракции и группы как антисоветские политические организации»60. ОГПУ продолжило шлифовать свои методы, включавшие обыски у заподозренных в сочувствии оппозиции, слежку и, конечно, арест. Партийные органы формировали специальные «десятки» для проведения облав с целью задержания распространителей оппозиционных листовок61. Циркуляр органов госбезопасности, подписанный Ягодой и Аграновым 21 февраля 1929 года, утверждал, что в видении троцкистов «близится время, когда эта фракция в силу исторической обстановки должна будет превратиться в „партию революции“. Троцкистские кадры методически и настойчиво подготовляются к мысли о неизбежности гражданской войны и третьей революции и о необходимости подготовки оппозиции к грядущим боям путем консолидации своих сил, беспрерывного расширения кадров оппозиции за счет беспартийных рабочих, расщепления рядов ВКП(б) и завоевания доверия рабочего класса, который должен быть мобилизован вокруг платформы „большевиков-ленинцев“». Более того, «беспочвенность троцкистской оппозиции», «разочарование», «пессимизм» и «крайнее озлобление» порождали, по мнению чекистов, авантюристические попытки разрешения политических проблем методами индивидуального террора. Эти настроения усугублялись призывами троцкистских подпольных организаций к борьбе с партией «всеми средствами» и недвусмысленными указаниями своим сторонникам на то, что все «зло», творящееся в стране, является делом рук определенных членов Центрального Комитета и его Политбюро. Добавлялось, что ОГПУ ликвидировало две террористические группы троцкистов, готовивших покушение на жизнь Сталина. Ягода и Агранов определяли новые ориентиры борьбы: «Во главу угла нашей тактики при разработке нелегальной троцкистской организации по-прежнему должно быть поставлено разложение троцкистских рядов. <…> Там, где это представляется по агентурным условиям возможным, необходимо проводить идею немедленной ликвидации фракционной работы и возвращения в ряды ВКП(б) ввиду беспочвенности оппозиции и ее превращения в центр притяжения для всех элементов, недовольных коммунистическим режимом. Эта идея должна находить себе сторонников из числа членов нелегальной троцкистской организации, которые, восприняв эту мысль, должны повести борьбу внутри самой организации с целью ее ослабления, расщепления и, в конечном счете, разрушения». Очень важен был вопрос оперативного учета – как для ОГПУ, так и для историка, который знает, как учетные данные будут использованы во время Большого террора. «Уже в письме от 15 июня 1928 г. мы дали указание поставить учет оппозиционных фракций и групп на должную высоту и о необходимости его централизации», – говорилось в циркуляре. Руководство ОГПУ сожалело, что «ряд наших органов до сих пор не представил нам списков своего учета. Этим затрудняется учет наличных кадров троцкистской фракции и полная характеристика состояния этой фракции. Для облегчения работы по постановке учета нами в ближайшие дни будут разосланы на места карточки учета и дела-формуляры, которые подлежат срочному заполнению согласно специальной инструкции. Не позднее месячного срока со дня получения этих карточек они должны быть заполнены и отправлены в СО ОГПУ для установления центрального учета». При сравнении февральского циркуляра 1929 года с «Информационным письмом», подписанным теми же авторами шестью месяцами ранее, бросается в глаза, что чекисты, исполняя инструкции высшего партийного руководства, перешли от относительно толерантного отношения к оппозиционерам к курсу на репрессии. Сотрудники ОГПУ получили политико-психологическую индоктринацию относительно крайней враждебности оппозиции и необходимости выкорчевывать ее любыми методами62. Для узкого круга своих работников ГПУ издало ряд книг, обобщающих опыт проникновения агентов в партии кадетов, меньшевиков, эсеров, монархистов и в ряды церковников. Чекисты хвастались перед Абрамовичем, что деятельность всех партий, действовавших в СССР подпольно, парализовалась большим количеством агентов. «Доходило до того, что из каждых трех подпольщиков один-два были агентами – завербованными или подосланными»63.

После XV съезда ОГПУ принялось энергично пополнять свои секретные картотеки, заводя так называемые карточки учета и дела-формуляры. Для этого чекисты обрабатывали внушительные массивы данных на потенциально нелояльных лиц, оппозиционеров и симпатизирующих им. В 1928 году на оперативном учете сибирских работников госбезопасности стояло 2058 человек из числа троцкистов, членов антисоветских партий и прочих «партийных отщепенцев»64. В год «великого перелома» под колпаком ОГПУ оказались уже не только «ярые оппозиционеры», но и колеблющиеся. Расследовались теперь не только действия, но и намерения.

В ночь с 18 на 19 июня 1928 года ОГПУ арестовало «часть актива троцкистской фракции» в Москве, преимущественно студентов. Помимо «новой» фракционной литературы, у задержанных было обнаружено «несколько сот фотографий Троцкого, предназначавшихся к продаже для пополнения средств организации»65. В ночь на 31 августа 1928 года произошла «частичная ликвидация актива троцкистского «комсомола». Менжинский докладывал: «Результаты ликвидации полностью подтвердили имевшиеся в ОГПУ сведения. В план выступления входило устройство контрдемонстрации, широкое распространение специально выпущенной к этому дню листовки и выступления в клубах и на предприятиях. Для руководства выступлением были организованы штабы центральный и районные. Для разбрасывания и расклейки по городу листовок по районам были назначены 24 бывших комсомольца». При обысках было обнаружено и изъято: 3 пишущие машинки, 6 гектографов, большое количество бумаги, около 150 листовок к конгрессу Коминтерна, значительное количество разной оппозиционной литературы, зашифрованные адреса и явки, рукописи ряда подготовленных к выпуску материалов («Комсомольский актив», «Куда растет комсомол» и др.), переписка оппозиционного характера и проч. При обыске у организатора Краснопресненского района, Арнольда Гаухера, произошел комичный случай: в квартиру пришел Д. С. Гаевский, член ВКП(б), нач. мобилизационного отдела НКТ РСФСР, с пачкой в 60 машинописных листов, содержащих критику программы Коминтерна, и с неустановленной запиской, им уничтоженной. Гаевский не понял, что у Гаухера идет обыск, и он несколько раз повторял пароль «Я от Мони», тогда как семья словесно намекала ему на то, что никакого Мони не знает и видит в нем предположительного провокатора, «артиста». Часть документов Гаевский пытался спрятать под скатерть на столе, какую-то записку уничтожил, на открытке написал некий телефон для дальнейшей связи. «Как член ВКП(б)» он задержан не был. При обыске у Гаухера обнаружили проект программы Коминтерна, заявление Троцкого к VI конгрессу Коминтерна, «Итоги левого курса», письмо Радека к Троцкому, письмо Сосновского к Радеку, письмо Троцкого к Ищенко, информационные сводки о западноевропейской оппозиции и т. п., пистолет системы «браунинг» и записную книжку с зашифрованными адресами. При личном обыске у студента Института имени Либкнехта Филатова Якова было обнаружено 40 экз. листовок «Ко всем членам ВЛКСМ, к рабочей молодежи». Служащий Певзнер Аркадий ведал явочной квартирой всесоюзного комсомольского центра. При обыске у него обнаружили адреса активных оппозиционеров. На предварительном допросе он признал свою связь с членом центра Ножницким и заявил, что «нелегальную фракционную работу на известном историческом этапе считает вызванной необходимостью». При обыске у руководителя троцкистской комсомольской группы в 1‑м МГУ была обнаружена переписка, указывающая на его связь со ссыльными фракционерами, в частности с бывшим членом всесоюзного комсомольского центра Мильманом. У троцкистского публикатора в Бауманском районе, студента МВТУ Александра Залкинда при обыске обнаружено 6 гектографов, 2 пишущие машинки, большое количество бумаги. Во время производства обыска у кустового организатора в Сокольническом районе Степана Голубкова к нему на квартиру явился оппозиционер Филатов с 40 шт. листовок к Международному юношескому дню66.