Во время первой пятилетки ОГПУ возглавляло не только борьбу с саботажем в промышленности, но и кампанию по коллективизации сельского хозяйства. Самым значительным достижением насильственной коллективизации стало то, что Сталин назвал «ликвидацией кулаков как класса». Поскольку кулаки были заклятыми врагами движения коллективизации, их уничтожение было одним из главных условий ее проведения. «Кулаками» называли не только зажиточных, но и всех, даже бедных крестьян, которых подозревали в сопротивлении коллективизации, например, тех, кто регулярно ходил в церковь. Первые массовые аресты глав кулацких семей были произведены ОГПУ в конце 1929 года. Все они были расстреляны. Затем, в начале 1930 года тысячи кулацких семей были согнаны на железнодорожные станции, погружены на платформы для перевозки скота и отправлены в необжитые районы арктической части Сибири, где и были брошены на произвол судьбы. Политбюро меньше всего заботило, выживут они или нет. Эта операция по переселению около 10 миллионов крестьян оказалась слишком масштабной для ОГПУ. 25 тысяч молодых членов партии, так называемые «двадцатипятитысячники», пройдя двухнедельный курс подготовки, были направлены в сельскую местность для оказания помощи ОГПУ по выселению кулаков и организации колхозов. Уверенные в своей правоте, с удивительными жестокостью и рвением, они боролись с классовым врагом, замышляющим контрреволюционный заговор с целью воспрепятствовать победе социализма. Их опыт поколение спустя был повторен красными гвардейцами во время проведения культурной революции в Китае. Один из «двадцатипятитысячников», Лев Копелев, впоследствии писал: «Я был уверен, что мы были солдатами невидимого фронта, которые вели войну против кулаков и саботажников во имя хлеба, в котором нуждалась страна в первую пятилетку.» Но для некоторых старых офицеров ОГПУ то, что они испытали, видя страдания и ужас миллионов выселяемых из своих домов крестьян, оказалось невыносимым. Исаак Дойчер рассказывал о своей встрече с уполномоченным ОГПУ, который недавно вернулся с задания из деревни: «Я старый большевик, — говорил он мне со слезами на глазах, — я боролся против царя, потом воевал на Гражданской войне, неужели я делал все это для того, чтобы теперь окружать деревни пулеметами и приказывать своим солдатам стрелять не глядя в толпу крестьян? Нет, нет и нет!»

К началу марта 1930 года «двадцатипятитысячники» согнали более половины крестьян в колхозы, тем самым ввергнув село в полный хаос. Сталин был вынужден отдать указ о приостановке этой кампании с тем, чтобы обеспечить весенний сев. После публикации в «Правде» 2 марта статьи «Головокружение от успехов», в которой Сталин лицемерно обвинил уполномоченных в несоблюдении «принципа добровольности», количество колхозников сократилось более чем наполовину. Однако после успешного сбора урожая насильственная коллективизация возобновилась.

Ущерб, нанесенный колхозами, низкие урожаи, резко возросшая продразверстка, засуха и неурожай 1932 года — все это вместе явилось причиной самого страшного голода за всю историю Европы XX века. В 1932—1933 годы от голода умерло почти 7 миллионов человек. Один из партийных активистов, работавший на Украине, которая больше всего пострадала от голода, впоследствии вспоминал: «Страшной весной 1933 года я видел, как люди умирают от голода. Я видел женщин и детей с вспухшими животами, кожа у них становилась синей, но они все еще дышали, хотя глаза у них были пустые, безжизненные. И трупы, трупы, мертвые тела в рваной овчине, на ногах грязный войлок, трупы в крестьянских хатах, на тающем снегу…

Но он не потерял веры: «Я убедил себя, объяснил себе, что я не должен поддаваться расслабляющему чувству жалости. Мы воплощали историческую необходимость, мы исполняли свой революционный долг… Я был убежден в том, что осуществлял великое и необходимое преобразование на селе и что их горе и страдания были результатом их невежества или махинаций классового врага».

Пока на Украине бушевал голод, ОГПУ продолжало раскрывать случаи саботажа «классового врага» и «контрреволюционных заговорщиков», среди которых были ветеринары, якобы морившие скот, сотрудники метеорологической службы, в полном составе обвиняемые в фальсификации метеосводок, служащие, которые якобы портили трактора и подмешивали сорняки в посевное зерно, и председатели колхозов, которые не смогли выполнить невыполнимые планы. Станислав Косиор, первый секретарь ЦК КП Украины (впоследствии расстрелянный во время великого террора), объявил, что «целые контрреволюционные гнезда были обнаружены в Народных комиссариатах образования, сельского хозяйства и юстиции, Институте марксизма-ленинизма Украины, Сельскохозяйственной академии, Институте имени Шевченко и т.д.»

Способность ОГПУ вновь и вновь разоблачать заговоры саботажников на селе постоянно питала теорию всепроникающих заговоров, которая все больше поглощала Сталина. Лазарь Каганович, подручный Сталина, пользующийся его особым доверием и один из немногих членов Политбюро, кому удалось пережить чистки, утверждал, что кулаки, которые избежали депортации, а также белогвардейцы и другие контрреволюционеры смогли организовать «саботаж зерновых поставок и посевной». Когда писатель Михаил Шолохов обратился к Сталину с жалобой в апреле 1934 года, в которой говорилось, что на Дону «колхозной экономике был нанесен моральный ущерб», Сталин ответил: «Уважаемые хлеборобы вашего района (и не только вашего) пытались сорвать поставку хлеба в города и в Красную Армию. То, что саботаж был тихим и внешне безобидным (без кровопролития), не меняет того факта, что уважаемые хлеборобы вели по существу „молчаливую“ войну против Советской власти, войну голодом, дорогой товарищ Шолохов…»

Несмотря на всю абсурдность заявления о том, что голодающие крестьяне были саботажниками, невозможно все списать на попытки партийного руководства найти козлов отпущения, для того чтобы отвлечь всеобщее внимание от своих собственных преступлений и ошибок. Подобно охотникам за ведьмами средних веков, Сталин верил в собственные теории заговоров, которые, правда, он считал себя вправе использовать для достижения собственных политических целей. Помимо поиска несуществующих саботажников на селе, во время голода 1933 года ОГПУ выполняло еще два важных задания. Во-первых, оно должно было отрезать голодающую Украину от всего окружающего мира. На территорию Украины запрещалось ввозить зерно, а украинцам не разрешалось покидать территорию республики без специального разрешения. Железнодорожный вокзал в Киеве был занят вооруженным отрядом ОГПУ, который снимал с поездов всех, кто не имел специального пропуска. На Украине сотрудникам ОГПУ также пришлось столкнуться с самыми страшными последствиями голода. Каннибализм стал там обычным явлением, но поскольку в уголовном кодексе не было статьи, определяющей меру ответственности за каннибализм, всех каннибалов передавали в руки ОГПУ. Сотрудникам ОГПУ также вменялось в обязанность препятствовать распространению информации о голоде.