6 февраля 1922 года ВЦИК РСФСР упразднил ВЧК и образовал Государственное политическое управление (ГПУ) при НКВД РСФСР. Внешняя разведка (ИНО) вошла в состав ГПУ. В связи с образованием Союза Советских Социалистических Республик (30 декабря 1922 года) постановлением ЦИК СССР 2 ноября 1923 года было создано Объединенное государственное политическое управление (ОГПУ) при СНК СССР, в которое вошел и Иностранный отдел (штат: 122 человека в центральном аппарате и 62 – за границей).

Создание самостоятельной внешнеполитической разведки пришлось на период становления советской власти, а следовательно ее история органически связана со всеми этапами развития Советского государства.

Так, в первые годы своего существования усилия внешней разведки были направлены прежде всего на борьбу с белой эмиграцией за границей, которая представляла большую опасность для Советской России как база для подготовки контрреволюционных групп. Важное значение имело и получение сведений о планах подрывной деятельности иностранных государств против нашей страны.

За три-четыре года с момента своего создания Иностранному отделу удалось организовать «легальные» резидентуры в сопредельных с СССР странах, а также в главных капиталистических государствах Европы – Англии, Франции и Германии. Было положено начало ведению разведки с нелегальных позиций, образована солидная агентурная сеть в кругах белоэмигрантов и важных правительственных учреждениях ряда стран. Внешняя разведка приступила к добыванию научно-технической информации, необходимой для нужд обороны и народного хозяйства СССР.

Как мы отмечали выше, осенью 1920 года, проанализировав причины поражения Красной Армии в войне с панской Польшей, Политбюро ЦК РКП(б) пришло к выводу о необходимости для страны иметь надежную разведку. Было принято решение о создании самостоятельной разведывательной службы внутри органов ВЧК. Исходя из этого решения партии, 20 декабря 1920 года Ф. Э. Дзержинский подписал приказ № 169 «О создании Иностранного отдела (ИНО) ВЧК».

Исполняющим обязанности начальника ИНО ВЧК был назначен ответственный сотрудник Наркомата иностранных дел (заведующий отделом Прибалтийских стран и Польши), член Коллегии НКИД Яков Христофорович Давтян. При назначении в ИНО ВЧК в целях конспирации он поменял фамилию на Давыдова. Работу в разведке совмещал с работой в Наркомате иностранных дел.

Родился Яков Давтян 10 октября 1888 года в селе Верхние Акулисы Нахичеванского края в семье крестьянина, занимавшегося мелкой торговлей и садоводством. Армянин. Отец мальчика умер, когда ему исполнилось всего два года, и мать с двумя детьми на руках осталась без средств к существованию. Вскоре брат матери, служивший в Тифлисе, взял Якова в свой дом на воспитание. Яков поступил в лучшую в городе 1‑ю Тифлисскую гимназию. Интересно отметить, что одновременно с Яковом Давтяном в этой гимназии в 1900–1903 годах учился будущий замечательный русский поэт Николай Гумилев.

В 1905 году 17‑летний Яков вступил в партию большевиков. Вел работу в ученических и рабочих кружках, находился под негласным надзором полиции.

В 1907 году Давтян окончил гимназию и приехал в Петербург, чтобы поступить в Петербургский университет. Одновременно принимал активное участие в деятельности Петербургской организации РСДРП: являлся членом бюро райкома, а затем – членом горкома партии. Работал в ее военной организации, в редакции газеты «Голос казармы», вел агитацию среди солдат.

В конце 1907 года Яков Давтян был арестован полицией «за революционную деятельность». В мае 1908 года был выпущен из тюрьмы под залог и эмигрировал из России в Бельгию, где продолжил учебу в Политехническом университете и получил инженерное образование.

На брюссельский период жизни Давтяна приходится его знакомство со многими известными деятелями социал-демократического движения, ставшими позднее ответственными сотрудниками советского государственного и партийного аппарата.

Давтян являлся членом Бельгийской социалистической партии и сотрудничал с ее печатными изданиями. Вместе с видным революционером М. М. Литвиновым участвовал в работе русских эмигрантских организаций. Осенью 1909 года в Брюссель приехала в эмиграцию и в течение года работала там в бюро партийной организации известная революционерка Инесса Арманд. Молодой Жак (партийный псевдоним Давтяна) и Арманд подружились и впоследствии не раз сообща выполняли важные задания партии.

1 августа 1914 года началась Первая мировая война. Германская армия вероломно вторглась на территорию нейтральной Бельгии и вскоре оккупировала ее. Несмотря на жесткие законы военного времени, Давтян продолжал работу партийного пропагандиста. В 1915 году он был арестован кайзеровскими оккупационными властями «за ведение антигерманской агитации» и заключен в тюрьму города Аахен. Через восемь месяцев, которые он провел в одиночной камере аахенской тюрьмы, Давтян был этапирован в лагерь для интернированных лиц, находившийся на территории Германии. За неоднократные попытки побега был помещен в его штрафное отделение.

В августе 1918 года, через пять месяцев после подписания Россией Брестского мира с Германией, Яков Давтян по ходатайству первого советского полпреда в Берлине А. А. Иоффе был освобожден немцами из лагеря для военнопленных и вернулся в Россию. В сентябре того же года он становится заместителем председателя Московского губсовнархоза, который возглавляла Инесса Арманд, и фактически руководит его работой. К этому периоду относится и его сотрудничество с газетой «Правда», в которой Яков Христофорович публикует статьи на экономические и политические темы.

В феврале 1919 года партия направляет Давтяна в составе миссии российского Красного Креста во Францию для решения вопроса о возвращении на родину солдат и офицеров 40‑тысячного Русского экспедиционного корпуса, часть которого была задержана на французской территории. В миссию, которую возглавлял видный революционер Дмитрий Мануильский, входила также Инесса Арманд, долгие годы проживавшая в этой стране. Поначалу французы враждебно встретили посланцев революционной России, однако затем были вынуждены согласиться отпустить на родину русских солдат, оказавшихся на чужбине.

В мае 1919 года Яков Давтян и Инесса Арманд сошли с борта французского парохода в Новороссийском порту. Усевшись в пролетку, они собрались было отправиться в путь, но вдруг с трапа парохода сбежал бородатый солдат и, схватив рысака под уздцы, громко крикнул: «Товарищи! Не уезжайте! Одну минуточку!»

Седоки повернулись в сторону парохода, и с палубы корабля, как раскаты грома, донеслось троекратное «ура!». Это русские солдаты, возвратившиеся на родину, благодарили Давтяна и Арманд за свое вызволение с чужбины.

Возвратившись в Москву, Давтян обратился в ЦК партии с просьбой предоставить ему работу с учетом приобретенного зарубежного опыта. В июне 1919 года он был направлен на Украину в качестве особоуполномоченного Совета обороны для инспекции политотделов военных учреждений. В связи с отступлением Красной Армии из Киева в августе 1919 года ему был выдан мандат следующего содержания:

«Тов. Давтяну поручается восстановление порядка в районе Киевского железнодорожного узла, прекращение бесчинств в войсковых эшелонах, задержание дезертиров, выселение из вагонов всех лиц, коим по штатам ими пользоваться не положено. Тов. Давтян имеет право ареста с последующим преданием суду состоящего при нем Ревтрибунала всех не подчиняющихся его распоряжениям, право пользования прямыми проводами, телефонным, телеграфным, право проезда в любом поезде и пользования отдельным паровозом».

В сентябре 1919 года Давтян был направлен на Южный фронт начальником политотдела 1‑й Кавказской кавалирийской дивизии. В начале 1920 года его вновь отзывают в Москву, теперь уже для работы в Наркомате иностранных дел. Он назначается на должность первого секретаря советского полпредства в Ревеле (Таллине) и направляется туда в командировку. Затем из Ревеля его переводят в Лондон секретарем делегации Л. Б. Каменева.