Затем в Париж был направлен в качестве представителя ВРНО агент ОГПУ, бывший полковник царской армии А.Н. Попов. Он встретился с Мельгуновым, проинформировал его о положении в России, целях и задачах ВРНО и попросил организовать встречу с председателем РОВС генералом Кутеповым. Кутепов согласился встретиться с Поповым.

Такая встреча состоялась в начале января 1930 года в Берлине, куда из Москвы прибыли представители ВРНО полковник Попов и полковник де Роберти, бывший в 1918 году начальником штаба Кутепова в Новороссийске. В ходе беседы они поставили вопрос о направлении в СССР нескольких групп надежных офицеров РОВС для подготовки восстаний весной 1930 года. Однако во время обеда в ресторане де Роберти, оставшись ненадолго наедине с генералом, сообщил ему, что Попов и он действуют по заданию ОГПУ, что никакой подпольной организации ВРНО не существует и что на Кутепова готовится покушение.

Кутепов хладнокровно воспринял информацию де Роберти и во время дальнейшей беседы с Поповым ничем себя не выдал. Позже ОГПУ стало известно о предательстве де Роберти. Он был арестован и после непродолжительного следствия в мае 1930 года расстрелян.

Похищение генерала Кутепова было осуществлено в воскресенье 26 января 1930 года около 11 часов дня на углу улиц Удино и Русселе в 7-м квартале Парижа. Парижской резидентуре ОГПУ было известно, что в этот день в 11 часов 30 минут Кутепов должен был присутствовать на панихиде по умершему генералу Каульбарсу в Галлиполийской церкви на улице Мадемуазель, что в 20 минутах ходьбы от его дома. Однако до храма генерал не дошел.

Накануне, 25 января, одним из сотрудников опергруппы Серебрянского была передана записка генералу Кутепову, в которой ему назначалась кратковременная встреча на пути к церкви. При этом разведчики учитывали, что генерал на встречи, связанные с агентурой и боевой деятельностью РОВС, всегда ходил один. Прождав некоторое время автора записки на трамвайной остановке на улице Севр, Кутепов продолжил свой путь. Сотрудники группы Серебрянского, а также агенты парижской резидентуры ОГПУ, выдававшие себя за французских полицейских, задержали генерала под предлогом проверки документов и предложили проехать в полицейский участок для выяснения личности. Кутепов дал усадить себя в автомобиль, но, услышав русскую речь, попытался оказать сопротивление. Его усыпили хлороформом. Однако больное сердце генерала не выдержало последствий наркоза, и он умер от сердечного приступа.

Предпринятые французской полицией и лично начальником контрразведки РОВС полковником Зайцевым меры по розыску Кутепова положительных результатов не дали. Находившийся в то время в Париже генерал Штейфон, посетивший в день пропажи генерала Кутепова его семью, писал 27 января генералу Геруа в Бухарест:

«Вчера неожиданно при невыясненных обстоятельствах исчез А.П. Кутепов, Он вышел утром в церковь, никуда не предполагая заходить, никому не назначал свидания и условился с женой, что после обеда в час дня они всей семьей отправятся в город».

Спустя несколько дней обнаружился свидетель похищения генерала Кутепова. Это был дворник из клиники, расположенной на улице Удино, по имени Огюст Стеймец. Дворник заявил, что утром 26 января около 11 часов он увидел в окно клиники большой серозеленый автомобиль, возле которого стояли двое рослых мужчин в желтых пальто, а неподалеку от них — такси красного цвета. Тут же на углу находился полицейский. Когда Кутепов, приметы которого Стеймец описал точно, поравнялся с серо-зеленым автомобилем, люди в желтых пальто схватили его и втолкнули в автомашину. В нее же сел и полицейский, который спокойно наблюдал за происходящим. Автомобиль на большой скорости уехал в сторону бульвара Инвалидов. Вслед за ним отправилось и красное такси.

Больше генерала Кутепова никто не видел.

Возвратившийся в Москву Яков Серебрянский 30 марта 1930 года за удачно проведенную операцию был награжден орденом Красного Знамени.

Сразу же после завершения операции по нейтрализации Кутепова Серебрянский приступил к созданию автономной агентурной сети в различных странах мира. Следует отметить, что уже к середине 1930-х годов группа Серебрянского имела за рубежом 16 работоспособных нелегальных резидентур, главным образом в фашистской Германии, Франции, США и на оккупированной японцами территории Северо-Восточного Китая.

Среди его помощников было немало лиц, особо отличившихся при выполнении заданий нашей Родины. К их числу следует отнести «Генри», возглавлявшего одну из нелегальных групп. По плану, разработанному Серебрянским, он сумел изъять архив Троцкого, за что был награжден орденом Красного Знамени.

Другая нелегальная группа, руководимая «Эрнстом», сумела потопить семь германских судов с оружием, предназначенным для генерала Франко в период гражданской войны в Испании.

Сотрудниками Серебрянского были получены весьма ценные данные о новых самолетах, военных кораблях и другом вооружении фашистской Германии.

13 июня 1934 года, то есть через три дня после создания НКВД СССР, «группа Яши» была напрямую подчинена наркому внутренних дел и преобразована в Специальную группу особого назначения (СГОН). При ней была создана школа разведчиков-нелегалов диверсионного профиля. Многие ее выпускники в годы Великой Отечественной войны стали крупными специалистами по проведению диверсий в тылу противника.

После начала гражданской войны в Испании группа Серебрянского, которому 29 ноября 1935 года было присвоено звание старшего майора госбезопасности, участвовала в нелегальных поставках оружия республиканскому правительству. Так, в сентябре 1936 года сотрудникам спецгруппы при помощи агента «Бернадет» удалось закупить у французской фирмы «Девуатин» 12 новых военных самолетов якобы для некоей нейтральной страны. Самолеты доставили на приграничный с Испанией аэродром, откуда их под предлогом летных испытаний благополучно перегнали в Барселону.

Упоминавшийся выше историк отечественной разведки Эдуард Шарапов в этой связи писал:

«Разразился неслыханный международный скандал. Президента Франции Блюма и военного министра Пернэ обвинили в покровительстве республиканской Испании. А несколько позже, 31 декабря 1936 года, в советской прессе было опубликовано постановление ЦИК Союза ССР «О награждении за особые заслуги в деле борьбы с контрреволюцией тов. Серебрянского Я.И. орденом Ленина».

Одним из объектов разработки группы Серебрянского во второй половине 1930-х годов был сын Троцкого Лев Седов, проходивший в материалах ОГПУ — НКВД под псевдонимом «Сынок».

Седов, полностью разделявший политические взгляды отца, в 1937 году приступил к работе по организации первого съезда IV Интернационала. А в Москве начали подготовку операции по похищению Седова. Ее проведение было поручено Серебрянскому, находившемуся в то время нелегально во Франции. Позже Серебрянский писал: «В 1937 году я получил задание доставить «Сынка» в Москву… Задание было о бесследном исчезновении «Сынка» без шума и доставки его живым в Москву…». В свою очередь, в «Очерках истории российской внешней разведки» относительно этой операции сообщается следующее:

«План похищения Седова был детально разработан и предусматривал его захват на одной из парижских улиц. Предварительно путем наблюдения были установлены время и обычные маршруты передвижения Седова в городе. На месте проводились репетиции захвата.

Предусматривалось два варианта его доставки в Москву. Первый — морем. В середине 1937 года было приобретено небольшое рыболовецкое судно, приписанное к одному из северных портов Франции. На окраине города-порта сняли домик — место временного укрытия, куда поселили супружескую пару сотрудников «группы Яши».

Подобрали экипаж. Только до капитана довели легенду, что, возможно, придется совершить переход в Ленинград с группой товарищей и взять там снаряжение для республиканской Испании.

Капитан изучил маршрут, имел достаточный запас угля, воды, продовольствия. В ожидании команды экипаж судна совершал регулярные выходы в море за рыбой.