В «Организации Гелена» Фельфе начал работать в генеральном представительстве «Л» в Карлсруэ. В 1951–1952 годах оно, в основном, занималось вербовкой агентуры в ключевых политических и экономических сферах ФРГ и Западного Берлина, а именно в министерствах, правительствах земель, органах полиции и пограничной охраны, политических партиях, профсоюзах, на предприятиях, в дипломатических представительствах ФРГ за рубежом. Генеральное представительство вело также разведку против ГДР и частично против Франции.

Как новичку Фельфе сначала перепадало много черновой работы, и он от нее не отказывался. С семи утра до пяти вечера трудился он за своим письменным столом, анализируя старые дела и выискивая людей, которые могли бы представить интерес как кандидаты в агенты. Начальству нравилось его усердие и инициатива. Спустя год Фельфе стал в представительстве уже своим человеком. Удобный случай помог ему заглянуть в секретную кладовку представительства, в картотеку с агентурой, а затем узнать имена геленовских агентов, которые в период с 1950 по 1953 годы действовали в Восточном Берлине и советской оккупационной зоне. Так советская разведка стала получать ценные оперативные сообщения «Герда».

Информация «Герда» получает высокую оценку советской разведки, и вскоре перед ним ставят новую задачу — внедриться в центр службы Гелена, в штаб-квартиру в Пуллахе, что позволит намного расширить его разведывательные возможности. Для этого имеются и определенные предпосылки. Дела на службе идут хорошо, он еще молод, у него высшее юридическое образование. Он «старый проверенный кадр». «Сейчас надо нажать на все связи», — решил Фельфе и начал не спеша и осторожно действовать через своих друзей. Его усилия увенчались успехом. Через некоторое время ему сообщили, что с 1 октября 1953 года он должен приступить к работе в центре ОГ в городе Пуллахе.

Рано утром Фельфе вышел из вагона на главном вокзале Мюнхена. Его встречал новый шеф — барон фон Роткирх. По дороге в Пуллах Фельфе с любопытством разглядывал незнакомые места и, поддерживая разговор с шефом, отвечал на его незначительные вопросы. Предъявив охране американские документы, они въехали через главные ворота на территорию, где почти за двухкилометровой серой стеной с колючей проволокой и сложной сигнализацией находилось несколько десятков двухэтажных домов, бараков и бункеров. К моменту перевода Фельфе в штаб-квартиру ОГ в Пуллахе «Организация Гелена» представляла собой довольно хорошо отлаженный аппарат, по формам и методам во многом соответствовавший ЦРУ. Главный упор в работе центра делался на разведку в «зоне распространения власти» Советского Союза.

Начав работать в контрразведывательном подразделении № 40, Фельфе, проявляя большое усердие и старание, упорно продвигался наверх по служебным ступенькам. В 1955 году ему присвоили ранг правительственного советника и вскоре назначили начальником отдела «контршпионаж против СССР и советских представительств в ФРГ». Если бы Гелен был провидцем, он бы ужаснулся — руководство одним из важнейших своих отделов, всей контрразведывательной работой БНД против Советского Союза на территории Западной Германии он поручил советскому разведчику.

Кроме внешней разведки, ОГ активно вела и внутренний шпионаж, в первую очередь, против Коммунистической партии Германии, которая была запрещена в ФРГ в 1956 году, против других прогрессивных и демократических организаций, ведь одним из первых заданий, поставленных реакционерами перед службой «серого кардинала», было налаживание постоянной слежки за «левыми». К 1956 году, всего через десять лет после войны, в картотеке Гелена числилось уже около 800 тысяч досье. Они были заведены и на видных государственных и политических деятелей, например, на бывших президентов Л. Эрхарда (ХДС), Г. Хайнемана (СДПГ), канцлера В. Брандта (СДПГ), председателя бундестага Р. Барцеля (ХДС), председателя фракции СДПГ в бундестаге Г. Венера и многих, многих других известных лиц. Некоторые из этих досье Фельфе видел лично.

Постоянно заводились досье и на так называемых «маленьких» партийных функционеров, чиновников и офицеров, которые имели перспективу выдвинуться по служебной линии на авансцену. Если кто-нибудь из них начинал делать карьеру, Гелен отправлялся в Бонн к Аденауэру или статс-секретарю Глобке и информировал их о «новичке», начиная с политических взглядов и кончая его вредными привычками. А затем наверху принимали решение, как вести себя метрам в отношении «новичка» — доброжелательно или наоборот. Этот стиль работы чем-то напоминал Фельфе практику фюрера СД Р. Гейдриха, который тоже любил коллекционировать сведения на политиков, друзей и своих сотрудников. Эту «коллекцию» он называл «сундуком со взрывчаткой».

С 1949 года в европейскую действительность входит НАТО — политический и военный союз. США и их союзники по НАТО приступили к превращению Западной Европы в «плацдарм передового базирования».

Новейшие виды оружия, создаваемые Западом, сосредоточивались в Европе, либо вокруг нее, либо нацеливались на СССР с многочисленных расположенных вблизи баз.

На общем фоне «холодной войны» в Европе вспыхивают затяжные кризисы. «Мы должны действовать с позиции силы, мы должны создать эту силу», — говорил госсекретарь США Д. Ачесон. Генерал Гудпестер подчеркивал: «В те дни в Европе не ставили вопроса «будет ли война?», а чаще — «в каком месяце начнется война?».

Крупная немецкая буржуазия быстро оправилась от последствий военного поражения Германии. Она взяла курс на союз с ведущими капиталистическими государствами Запада, стремясь на этом пути обеспечить ФРГ экономическое процветание, военную силу и влияние на ход мировых событий. В 50-е годы страна вступила в полосу «экономического бума». Первое западногерманское правительство во главе с Аденауэром все более настойчиво изыскивало возможности ремилитаризации ФРГ. Заметной попыткой на этом пути явилось намерение ФРГ вступить в Европейское оборонительное сообщество (ЕОС), чтобы под флагом этой организации приступить к созданию собственной армии.

Фельфе в этот момент получил секретные сведения об истинных планах и целях западногерманского правительства по вопросам военной политики, которые незамедлительно были направлены им в Центр. На основании этих и других данных советская сторона довела до сведения своих западных союзников доверительную информацию для размышления. Наиболее остро реагировала на это Франция. Проект ЕОС не прошел через французский парламент, многие депутаты которого в своих выступлениях справедливо указывали на то, что создание «европейской армии» откроет дорогу для возрождения германского милитаризма.

Однако на Францию был оказан нажим США и Англией, и в мае 1955 года ФРГ была принята в военный блок НАТО. Она получила разрешение создать полумиллионную армию — 12 дивизий, которые составили костяк сухопутных сил НАТО на европейском континенте.

8 сентября 1955 года внимание средств массовой информации приковало необычное политическое событие. В этот день впервые после окончания войны в Советский Союз прибыла с официальным визитом делегация ФРГ, возглавляемая канцлером К. Аденауэром.

Еще до приезда западногерманской делегации на стол советских руководителей лег подготовленный Комитетом госбезопасности СССР документ. В нем излагались сведения, касавшиеся целей визита делегации ФРГ, тактики ведения переговоров, характеристики на Аденауэра и членов его делегации и другие, представлявшие интерес секретные данные. В этом документе в значительной мере содержались разведывательные сведения, добытые «Гердом». Так, он, в частности, сообщил в Центр, что Аденауэр не намерен отходить от подписанных с западными державами договоров, что во всех вопросах разрядки он собирается проявлять исключительную осторожность, основные усилия западных немцев будут сосредоточены на том, чтобы добиться от Советского Союза освобождения немецких военнопленных. В этом Аденауэр, как канцлер, видит свою историческую миссию. Отмечалось, что к установлению дипломатических отношений с Советским Союзом канцлер относится отрицательно, так как в этом случае ФРГ пришлось бы отказаться от претензий на «единоличное представительство» всей Германии. «Герд» сообщал, что в Москву перед приездом делегации из ФРГ прибудет специальный поезд, где разместится штаб делегации и где в специально защищенном от подслушивания вагоне можно будет вести деловые разговоры и проводить внутренние совещания. «Герду» удалось многое узнать о визите, так как в его подготовке самое активное участие принимал Гелен и его организация. На прощание генерал предупредил канцлера и его коллег о всевозможных «хитростях» русских. Например, о том, что перед официальным приемом — обедом или ужином обязательно надо выпить немного оливкового масла, чтобы не опьянеть, так как русские любят накачивать алкоголем своих партнеров, чтобы с ними легче было договориться.