Рвение и идеализм Гильдебрандта были заразительны. Вскоре студенческая ассоциация Свободного университета Западного Берлина, молодежная организация Христианско-Демократического Союза и социал-демократическая партия созвали массовый митинг. Гильдебрандт откликнулся мгновенно. Митинг под новым лозунгом «Бездействие — это убийство» состоялся 17 октября 1948 года в «Титания-Паласте», крупнейшем кинотеатре города, рассчитанном на пятьсот посадочных мест.

В напряженной тишине собравшиеся слушали выступления бывших заключенных советских концентрационных лагерей и юноши, который бежал с уранового рудника. Они узнали, что условия в лагерях, где ранее нацисты содержали своих узников, были теперь хуже, чем до 1945 года. В концлагере Заксенхаузен заболевание туберкулезом достигло масштабов эпидемии. Помимо этого, от голода и плохого питания там каждый день умирало от шестидесяти до восьмидесяти узников. В 1948 году в лагере было около 6400 заключенных, около 1000 из них позднее были депортированы в исправительно-трудовые лагеря в самом Советском Союзе.

Гильдебрандт сказал в своем выступлении, что на основании показаний свидетелей можно сделать вывод, что вся восточная зона походит на «концлагерь, в котором хорошо живут лишь надзиратели и те, кто распределяет продовольствие». Он заявил, что сталинизм — это третий и последний ультиматум, брошенный западному миру, который должен объединиться, чтобы отстоять основные общечеловеческие ценности. Гильдебрандт объявил о намерении создать «Группу борьбы против бесчеловечности». Шесть месяцев спустя союзный контрольный совет по Германии, из которого к этому времени вышли Советы, разрешил деятельность «Группы борьбы» как политической организации.

До этого момента Советы и восточно-германские коммунисты в своих контрмерах ограничивались главным образом пропагандистскими кампаниями. Теперь же они создали специальное подразделение Штази для борьбы с «Группой борьбы против бесчеловечности» и ее эмиссарами в Восточной Германии. Возглавил это подразделение Отто Книэ, ветеран компартии, который прошел подготовку в системе НКВД в СССР, куда он бежал после прихода нацистов к власти. Во время войны он выполнял спецзадания в партизанских отрядах, действовавших в тылу немецких войск. О нем отзывались как об «абсолютно идеологизированном» человеке, который временами вел себя так, «словно в голове у него не все было в пррядке». Тем не менее он был профессионалом в полном смысле этого слова. Первым делом Книэ решил завербовать людей, которые могли бы проникнуть во внутренние структуры «Группы борьбы». Это направление оказалось чрезвычайно результативным.

«Группа борьбы» Гильдебрандта насчитывала около восьмидесяти штатных сотрудников, среди которых был и тридцатилетний Эрнст Тиллих, теолог-антифашист, который провел в тюрьмах и концлагерях три года. После войны Тиллих вступил в социал-демократическую партию и стал активно работать в различных благотворительных организациях. Он также часто выступал со статьями, затрагивавшими проблемы церкви и общества. Откровенный антикоммунизм стал основой его сближения с кружком Гильдебрандта, куда входили идеалисты, разделявшие его взгляды. Затем он стал членом «Группы борьбы».

Сначала офис «Группы борьбы» размещался в одноквартирном доме рядом с резиденцией британского коменданта Берлина, которая охранялась круглосуточно нарядом британской военной полиции. Это обеспечивало защиту и для офиса «Группы». С самого начала туда потек поток посетителей, составлявший ежедневно от 100 до 150 бывших заключенных и родственников лиц, пропавших без вести, в отношении которых имелись основания предполагать, что они были арестованы в советской зоне. К июню 1949 года «Группа» зарегистрировала 12 000 случаев исчезновения людей и свыше 8500 арестов.

В то время как сотрудники офиса занимались канцелярской работой, Гильдебрандт направил почти всю свою энергию на организацию подпольных групп по всей Восточной Германии. Их члены сообщали об арестах, производимых тайной полицией, и распространяли листовки, рассказывавшие о масштабах репрессий и призывавшие население к сопротивлению. За «железный занавес» запускались десятки тысяч наполненных водородом воздушных шаров, к которым подвешивались контейнеры с листовками. Они были снабжены устройствами, которые через определенное время взрывались и разбрасывали листовки.

Успех «Группы борьбы» не прошел мимо внимания контрразведки американской армии, которая увидела в этой организации идеальный инструмент осуществления своих операций на востоке. Зондаж, проведенный полковником Северином Уоллахом, начальником берлинского отделения Си-Ай-Си, не достиг поставленной цели. Гильдебрандт отверг его, потому что не хотел, чтобы на «Группу борьбы» наклеили ярлык шпионской организации. Однако в конце концов расходы группы, которые вначале покрывались частными пожертвованиями, достигли таких размеров, что Гильдебрандт вынужден был принять предложение полковника о сотрудничестве.

«Нам нужны были деньги, и у американцев они имелись, — заметил позднее Гильдебрандт. — Я поразмыслил и пришел к выводу, что мы и американцы находимся по одну сторону баррикад. Однако я дал полковнику Уоллаху ясно понять, что являюсь приверженцем философии Махатмы Ганди и не потерплю никаких актов насилия. Он заверил меня, что будет руководствоваться моими пожеланиями».

По мере того как волонтеры группы Гильдебрандта усиливали пропагандистскую деятельность, подразделение полковника Книэ также трудилось денно и нощно, прилагая все усилия для подавления сопротивления. К лету 1949 года в их руки попали несколько лиц, сочувствовавших «Группе борьбы» и распространявших пропагандистскую литературу. Нормой в этих случаях были двадцать пять лет тюрьмы за шпионаж или антисоветскую деятельность.

Секретные службы как СССР, так и Восточной Германии получили от своих политических хозяев указания резко активизировать свою деятельность. Гильдебрандт был занесен Штази в список самых опасных преступников. Любому, кто доставил бы его в руки Штази, была обещана награда в 15 000 восточных марок. На Западе неконвертируемые восточные марки были бесполезными бумажками, но в Восточном Берлине это была приличная сумма. В июне 1949 года западноберлинские полицейские, охранявшие главу «Группы борьбы», заметили автомашину с номерными знаками советской зоны, часами стоявшую близ резиденции Гильдебрандта. Полицейские допросили четырех мужчин, пассажиров этой машины, но были вынуждены отпустить их. Скорее всего, эти люди собирались похитить Гильдебрандта, но прямых улик против них не было.

Месяц спустя, 23 июля, несколько соседей Гильдебрандта обратили внимание на подозрительный автомобиль, который почти четыре часа находился в этом районе, периодически переезжая с одного места на другое. Помимо водителя в машине находилось еще четверо мужчин. Поставили в известность полицию. При обыске машины под сиденьем был обнаружен автоматический пистолет системы «маузер». Пятеро мужчин, все немцы, проживавшие в советском секторе Берлина, были арестованы и преданы суду за попытку похищения. Четверо получили по два года тюрьмы. Водитель был оправдан, так как ему удалось доказать, что о преступном замысле ему ничего не было известно. В течение следующего года Штази получила от Советов не менее трех приказов похитить руководителя «Группы борьбы». Все эти попытки провалились, так как американским контрразведчикам удалось завербовать сотрудника Штази, участвовавшего в планировании операций.

Потерпев неудачу с похищениями, Штази решила пойти с другой карты. Ее агенты в «Группе борьбы» сообщили, что у американцев возникли претензии к Гильдебрандту в связи с плохо поставленным бухгалтерским учетом и одно время они даже подозревали его в хищениях денег. Была проведена ревизия, которая не подтвердила этих подозрений. Речь шла не о растрате, а о недостатках бухгалтерского учета.

К середине 1950 года положение Гильдебрандта пошатнулось. Под влиянием его заместителя Тиллиха, который склонялся в сторону более радикальных решений, «Группа борьбы» начала терять свой ненасильственный характер. Безобидные акты вроде метания снарядов с вонючей смесью в залы, где проводились собрания коммунистов, уступили место более серьезным мероприятиям. Тиллих приказал провести ряд диверсий. При помощи самодельных взрывных устройств в нескольких местах были взорваны железнодорожные пути и поврежден мост через канал в Восточной Германии. Не желая компрометировать свои идеалы, Гильдебрандт решил уйти с поста главы «Группы борьбы против бесчеловечности». К тому времени финансирование и руководство «Группы» находилось в руках вновь созданного отдела политической координации, который отвечал за проведение нелегальных операций. Хотя этот отдел был укомплектован сотрудниками ЦРУ, он первоначально не находился в прямом подчинении у директора ЦРУ. Первый начальник ОПК Фрэнк Уизнер подчинялся комитету, состоявшему из чиновников государственного департамента и министерства обороны.