АГ-101 была создана в мае 1941 г. Позывные — «Пума», «Мердер», «Аллигатор». До августа 1941 г. действовала при дивизиях и корпусах 11-й армии. В первые дни войны выдвинулась с территории Румынии по направлении к г. Николаеву, на протяжении этого пути группа вела сбор информации и проводила опрос военнопленных. В августе 1941 г. группа объединилась с АГ-1 АОК-11, сменив свои позывные на позывной «Дахс». С этого времени группа перешла в подчинение Абверкоманде-1А при Южной группировке немецких войск.

Начальниками органа последовательно были капитан Мак, майор Фогт и капитан Рантер.

Группа вела активную разведывательную деятельность против Северо-Кавказского и 3-го и 4-го Украинских фронтов.

Агентура группы вербовалась из военнопленных в лагерях Моздока, Буденновска, Пятигорска, Ставрополя, Сталино, Кривого Рога, Винницы, Кишинева. Помимо военнопленных к работе привлекались местные жители оккупированных областей, а впоследствии румынские железногвардейцы и венгерские фашисты.

Вербовку агентуры проводили русские сотрудники группы. Эти лица разъезжали по лагерям военнопленных и склоняли некоторых из них к сотрудничеству с Абвером. В августе 1941 г. при штабе группы были созданы курсы подготовки агентуры. До августа 1942 г. их возглавлял ротмистр Пуллуй, затем — бывший майор РККА Письменный Владимир (Леснер). В январе 1945 г. курсы были объединены с разведшколой АК-106 «Зюд-Парк» и стали именоваться «Мистель».

Наиболее подготовленная агентура забрасывалась в советский тыл с заданиями по вербовке местных жителей и созданию резидентур. Перед заброской агенты снабжались явками к уже действующим в советском тылу резидентам. Для возвращения агенты снабжались устным паролем «1Ц Пушкин», по псевдониму начальника мельдекопфа Малишевского.

Кроме разведки абвергруппа вела контрразведывательную работу в местах своей дислокации. Группой были созданы специальные карательные отряды из татар, грузин и армян.

Большую практическую работу вели головные посты группы — мельдекопфы, создаваемые по мере надобности. До сентября 1942 г. при группе было шесть мельдекопфов. Их возглавляли сотрудники группы Колумбус, Гогштеттер, Малишевский, Герасевич, Шульце и Дро (Канаян). В конце 1942 г. при группе были созданы два передовых поста, действующие при армейских корпусах. В мае 1943 г. группе был придан третий пост-мельдекопф Фаулидиса (Локкерта), до этого находившийся в подчинении АГ-103.

В состав группы также входили хозяйственная, транспортная команды и картографический отдел.

АГ-102 была первоначально придана 17-й немецкой армии, с мая 1943 г. — 8-й армии. Позывной — «Пантера».

На первом этапе существования находилась в подчинении АГ 1А, с июня 1942 г. — Абверкоман-ды-101, с ноября 1943 г. — Абверкоманды-106.

Начальниками органа последовательно были: подполковник Гопф-Гойер, лейтенант Штандке, капитан Мартин Рудель.

Группа действовала против Сталинградского, Закавказского, Юго-Западного и 2-го Украинского фронтов.

В марте 1943 г. была переформирована и ей было предписано вести контрразведывательные мероприятия в тылу 8-й немецкой танковой армии.

Агентура вербовалась из военнопленных в лагерях Сталино, Горловки, Харькова, Артемовска Сталинской области, Ростова-на-Дону, станицы Крымской, Краснодара, Полтавы, Кировограда. Подбор и вербовку агентов проводили русские сотрудники группы, а также фельдфебель Бокк и унтер-офицер Бонк. Из завербованных силами группы готовили агентуру и резидентов для последующего оседания на освобождаемой советскими войсками территории. В 1942 г. при группе существовали курсы подготовки агентов-радистов. Для возвращения агентуре давали устные пароли «Дойч агент 1Ц Дивизион-102» или «Дойч-агент «Роза»».

Контрразведывательная работа группы велась через мельдекопфы, имевшиеся в частях 8-й армии и при взаимодействии с ГФП.

Особым отделом 6-й армии Юго-Западного фронта в группу был внедрен П. И. Прядко. Внедрение прошло так успешно, что за два месяца он сумел дважды слетать в советский тыл для выполнения разведывательных заданий и с помощью чекистов благополучно возвращался к немцам. В абвергруппу лился поток дезинформации, очень похожей на правду, что позволило Прядко войти в полное доверие к Гопф-Гойеру. После третьей заброски в советский тыл Прядко было предложено работать в спецгруппе, занимавшейся фабрикацией фиктивных документов.

За время своей работы П. И. Прядко сообщил установочные данные на 101 агента, собрал материалы на 26 сотрудников органа, информацию о методике подготовки агентуры. За свою работу в немецком тылу контрразведчик был награжден орденом Красного Знамени.

АГ-103 действовала при 1-й немецкой танковой армии и до июля 1942 г. подчинялась Абверкоманде-101.

Начальниками органа последовательно были капитан Гесс Карл, майор Альбрехт Иоахим, лейтенант Хензель, лейтенант Фрич.

Группа вела разведывательную работу против войск Сталинградского, Северо-Кавказского и 4-го Украинского фронтов.

С 1942 г. помимо разведки группа вела антисоветскую агитацию и установила связь с повстанческими отрядами на Кавказе. В середине 1942 г. группа принимала участие в формировании в г. Мариуполе и Волновахе добровольческих отрядов из донских, кубанских и терских казаков из числа военнопленных. Формировавшиеся подразделения предназначались для ведения боевых действий в советском тылу в случае отступления немецкой армии с Кавказа. Часть личного состава казачьих отрядов использовалась на хозяйственных работах, охране помещений абвергруппы и производила сбор теплых вещей у местного населения.

В 1942 г. из добровольцев-военнопленных при группе был сформирован отряд для ведения разведки на территории Калмыцкой АССР. Начальником отряда был зондерфюрер Верба (доктор Долль). Отряд дислоцировался в г. Степном (Элиста), позывной радиостанции — «Краних» (Журавль). Впоследствии на базе отряда было сформировано спецподразделение «Зондервербанд доктор Долль».

Агентура вербовалась сотрудниками АГ-103 из числа военнопленных в лагерях Волновахи, Горловки. Полтавы, Авдеевке Сталинградской области, Павлограде, Днепропетровске, Прохладном, Кабардино-Балкарии.

На территории Донбасса, Бессарабии и Румынии агентура вербовалась из местных жителей.

В 1942 г. при группе были организованы курсы для агентуры под названием «Команда Локкерта». Сам зондерфюрер Локкерт возглавлял мельдекопф, костяк которого составляли белоэмигранты, завербованные им в Афинах. Эта группа первоначально предназначалась для заброски в советский тыл, затем была зачислена в Абвергруппу-103.

На курсах обучалось одновременно до 40 человек, разбитые на группы по 5—10 слушателей.

1-я группа состояла из казаков, 2-я и 3-я — из уроженцев Кавказа, прибывших с командой Локкерта из Полтавы. Срок обучения в группах — от 5 до 20 дней.

С конца декабря 1941 до конца февраля 1942 г. люди Локкерта дислоцировались в Волновахе, в июне 1942 — под Павлоградом, затем последовательно в Сталинградской, Ростовской областях, Кисловодске и в июле 1943 г. в Таганроге влились в Абвергруппу-101.

В июне 1944 г. при группе были организованы курсы под руководством капитана Герберта из АГ-106. На них шла подготовка агентов украинцев и венгров.

Переброска агентуры осуществлялась пешим порядком. Для возвращения агенту давался устный пароль «Я немецкий агент штаба «Мариуполь», телефон 340» или «Штаб 1Ц корпуса, который брал Элисту».

В августе 1943 г. группа размещалась в Кировоградской области.