Германское руководство, от которого, по словам генерала П.Н.Краснова, теперь зависело будущее России, не видело для себя выгоды ни в сохранении «единой и неделимой», ни в существовании на ее месте новых независимых государственных образований. И если сначала Министерство по делам оккупированных восточных территорий планировало выделить населенную донскими казаками территорию между Доном и Волгой в качестве особого полуавтономного района, то вскоре оно отказалось от этой идеи. Опираясь в своей «восточной политике» на идею размежевание населения СССР по национальному признаку, германское руководство решило земли донских казаков включить в состав имперского комиссариата «Украина», а кубанских и терских — в состав комиссариата «Кавказ».
Однако уже к концу 1941 года потери на фронте и необходимость антипартизанской борьбы в тылу заставили командование Вермахта обратить внимание на казаков, как на убежденных борцов против большевизма, приступив к созданию казачьих частей из военнопленных. Еще ранней осенью 1941 г. из штаба 18-й армии в Генеральный штаб сухопутных войск поступило предложение о формировании из казаков специальных частей для борьбы с советскими партизанами, инициатором которого выступил офицер армейской контрразведки барон фон Клейст. Предложение получило поддержку, и 6 октября генерал-квартирмейстер Генштаба генерал-лейтенант Э.Вагнер разрешил командующим тыловыми районами групп армий «Север», «Центр» и «Юг» сформировать к 1 ноября 1941 г. «в качестве эксперимента» казачьи части из военнопленных для борьбы против партизан.
Первая из таких частей была сформирована приказом командующего тыловым районом группы армий «Центр» генералом фон Шенкендорфом от 28 октября 1941 г. Это был казачий эскадрон под командованием перешедшего незадолго до того со своими бойцами на сторону немцев майора Красной Армии донского казака И.Н.Кононова. В течение года командованием тылового района было сформировано еще 4 эскадрона, и уже к сентябрю 1942 г. под началом Кононова находился 102-й (с октября — 600-й) казачий дивизион (3 конных эскадрона, 3 пластунские роты, пулеметная рота, минометная и артиллерийская батареи). Общая численность дивизиона составляла 1799 человек, в том числе 77 офицеров. На протяжении 1942–1943 гг. подразделения Дивизиона вели напряженную борьбу с партизанами в районах Бобруйска, Могилева, Смоленска, Невеля и Полоцка.
Обоснованием дальнейшему упрочению роли казаков в составе Вермахта послужила теория, в соответствии с которой казаки считались потомками остготов (владевших Причерноморским краем в II–IV вв. н. э.) — народом, «сохранившим прочные кровные связи со своей германской прародиной». 15 апреля 1942 г. фюрер разрешил использовать казаков как в борьбе с партизанами, так и в боевых действия на фронте как «равноправных союзников».
Из казачьих сотен, сформированных при армейском и корпусных штабах германской 17-й армии, приказом от 13 июня 1942 г. был образован кавалерийский полк «Платов». В его составе имелось 5 конных эскадронов, эскадрон тяжелого оружия, артиллерийская батарея и запасной эскадрон. Командиром полка был назначен майор Вермахта Э. Томсен. С сентября 1942 г. казаки обеспечивали охрану Майкопских нефтепромыслов, а в конце января 1943 г. полк был переброшен в район Новороссийска, где нес охрану морского побережья и участвовал в операциях против партизан. Весной 1943 г. он оборонял «Кубанское предмостное укрепление», отражая советские морские десанты северо-восточнее Темрюка, а в конце мая был выведен в Крым.
Сформированный летом 1942 г. в составе 1-й танковой армии Вермахта казачий кавалерийский полк «Юнгшульц» носил имя своего командира — подполковника И. фон Юнгшульца. Первоначально он имел только два эскадрона, один из которых был чисто немецким. Уже на фронте в его состав были включены две казачьи сотни из местных жителей, а также казачий эскадрон, сформированный в Симферополе. На 25 декабря 1942 г. полк насчитывал 1530 человек, в том числе 30 офицеров, 150 унтер-офицеров и 1350 рядовых. Начиная с сентября 1942 г. полк «Юнгшульц» оперировал на левом фланге 1-й танковой армии в районе Ачикулак — Буденновск, принимая участие в боях против советской кавалерии. После приказа об общем отступлении, отданного 2 января 1943 г., полк отходил на северо-запад в направлении станицы Егорлыкской, пока не соединился с частями 4-й танковой армии Вермахта. В дальнейшем он был подчинен 454-й охранной дивизии и переброшен в тыловой район группы армий «Дон».
Приказом командования от 18 июня 1942 г. было предписано направлять всех военнопленных — казаков по происхождению и считавших себя таковыми — в г. Славута. К концу месяца здесь было сосредоточено уже 5826 человек, что послужило основанием к принятию решения о формировании казачьего корпуса и организации соответствующего штаба. Из-за нехватки старшего и среднего командного состава было решено набирать в казачьи части бывших командиров Красной Армии, не являвшихся казаками.
Впоследствии при штабе формирования были открыты 1-е Казачье имени атамана графа Платова юнкерское училище и унтер-офицерская школа.
В первую очередь были сформированы 1-й Атаманский полк под командованием подполковника барона фон Вольфа и особая полусотня, предназначенная для выполнения специальных заданий в советском тылу. Затем начато было формирование 2-го Лейб-казачьего и 3-го Донского полков, вслед за ними — 4 и 5-го Кубанских, 6 и 7-го Сводно-казачьих полков. 6 августа 1942 г. сформированные казачьи части перевели в Шепетовку.
Работа по формированию казачьих частей на Украине приобрела планомерный характер. Оказавшиеся в немецком плену казаки концентрировались в одном лагере, из которого направлялись в резервные части, а уже оттуда в формируемые полки, дивизионы, отряды и сотни. Казачьи части доказали свою пригодность к выполнению самых разных задач.
Большинство сформированных на Украине казачьих полков были задействованы на охране автомобильных и железных дорог, других военных объектов, а также в борьбе с партизанским движением на территории Украины и Белоруссии.
Однако особенно много казаков влилось в германскую армия после того, как части Вермахта вступили на территории казачьих областей Дона, Кубани и Терека. Вступая в казачьи станицы, немцы расклеивали листовки, призывавшие казаков к сотрудничеству, к во становлению традиционного самоуправления. В свою очередь, немецким солдатам разъяснялось, что здесь они имеют дело с «союзниками», находятся на «дружественной территории».
25 июля 1942 г., сразу же после занятия немцами Новочеркасска, к представителям германского командования явилась группа казачьих офицеров, изъявив готовность «всеми силами и знаниями помогать доблестным германским войскам в окончательном разгроме сталинских приспешников». В сентябре в Новочеркасске собрался казачий сход, на котором был избран штаб Войска Донского (с ноября 1942 г. — штаб Походного атамана) во главе с полковником С.В.Павловым, приступивший к организации казачьих частей.
Все казаки, способные носить оружие должны были явиться на пункты сбора и зарегистрироваться. Станичные атаманы обязывались в трехдневный срок произвести регистрацию офицеров и казаков, подобрать добровольцев для организуемых частей. Каждый доброволец мог записать свой последний чин в Российской Императорской армии или же в белых армиях. Одновременно атаманы должны были обеспечивать добровольцев строевыми лошадьми, седлами, шашками и обмундированием. Вооружение для формируемых частей выделялось по согласованию с германскими штабами и комендатурами.
В перешедших под контроль германской военной администрации казачьих областях Дона, Кубани и Терека воссоздавалось казачье самоуправление во главе со станичными и окружными атаманами, с вооруженными отрядами самообороны. Вскоре после оккупации Кубани группой армий А, ее командование получило из Берлина разрешение создать в качестве эксперимента автономный казачий район, в котором после ухода германских войск предполагалось установить полное самоуправление. Местному населению была гарантирована свобода в культурной, образовательной и религиозной деятельности. В отличие от других оккупированных областей здесь была разрешена ликвидация колхозов и переход к частной земельной собственности.